import os
from collections import defaultdict

import cv2
import matplotlib.pyplot as plt
import numpy as np
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import transforms
import torchvision
import wandb
from helpers.generate_dataclass import SegmentationDataset
from helpers.plottingaftertraining import plot_samples_binary
from helpers.testing import test_binary
from helpers.training import train_binary
from helpers.validating import validation_binary
from PIL import Image
from torch.utils.data import DataLoader

torch.manual_seed(0)
np.random.seed(0)

Hinweis zu ChatGPT: Gewisse Codes wurden zusammen mit ChatGPT erstellt und so beschriftet. "Zusamen mit..." bedeutet, dass kaum Codes einfach von ChatGPT übernommen werden konnten. In der Regel musste ich sie Schritt für Schritt kontrollieren und die Fehler wurden zusammen debuggt.

EDA

Im ersten Teil werde ich die Datenanalyse durchführen. Ich werde dabei die Bilder visuell und qualitativ untersuchen. Zuerst führe ich die Untersuchung auf den originalen Bildern durch. Danach werde ich sie mittels Dataloader einlesen und einerseits untersuchen, ob dabei Fehler passieren und danach untersuche ich die Bilder vertieft.

Anzahl vorhandener Bilder

def count_images(folder):
    return len([name for name in os.listdir(folder)])

train_count = count_images('data/train/images')
test_count = count_images('data/test/images')
validation_count = count_images('data/validation/images')

print("Anzahl der Bilder in Train:", train_count)
print("Anzahl der Bilder in Test:", test_count)
print("Anzahl der Bilder in Validation:", validation_count)

Anzahl der Bilder in Train: 1385
Anzahl der Bilder in Test: 199
Anzahl der Bilder in Validation: 396

Im meinem Datensatz sind 1'385 Trainingsbilder, 200 Testbilder und 400 Bilder für die Verifikation vorhanden. Es sollten sich also um genügend Bilder handeln, um ein gutes Training durchzuführen. Der Train/Test Split ist mit 0.87 zwar relativ hoch, doch kann ich am Ende des Trainings zusätzlich die Verifikation Bilder als Test vom Modell verwenden.

Inspektion der Bilder vor einlesen

Folgend stelle ich zehn Bilder und deren Masken vor, wie sie in der originalen Version vorhanden sind.

image_dir = 'data/train/images/'
mask_dir = 'data/train/masks/'

image_files = sorted([os.path.join(image_dir, f) for f in os.listdir(image_dir) if f.endswith('.png')])
mask_files = sorted([os.path.join(mask_dir, f) for f in os.listdir(mask_dir) if f.endswith('.png')])

assert len(image_files) == len(mask_files)

fig, axs = plt.subplots(10, 2, figsize=(8, 20))

for i in range(10):
    # Bild
    image = Image.open(image_files[i])
    axs[i, 0].imshow(image)
    axs[i, 0].set_title(f'Beispiel {i + 1}: Bild')

    # Maske
    mask = Image.open(mask_files[i])
    axs[i, 1].imshow(mask, cmap="gray")
    axs[i, 1].set_title(f'Beispiel {i + 1}: Maske')

plt.tight_layout()
plt.show()

Erkennbar ist grösstenteils bewaldetes Terrain. Dies ist neben der grünen Farbe auch leicht an der Wölbungen der Baumkronen erkennbar. Daneben fallen hellbraune Flecken auf, die versplittert über die Bilder verteilt sind. Anhand der Masken wird ersichtlich, dass es sich hierbei grösstenteils um die gesuchten Erdrutsche handelt. Diese kommen sehr unterschiedlich (in Bezug auf Form, Grösse und Häufigkeit), aber in jedem der angeschauten Bilder vor. Allerdings ist die Farbe keine Garantie, dass es sich um einen Erdrutsch handelt. Ich vermute, dass die restlichen braunen Formen, meistens schlangenförmig, Bäche oder Strassen sind. In weiteren angeschauten Bildern treten Bäche und Flüsse häufig auf und können einfach mit Erdrutschen verwechselt werden. Weiter sind die Wälder meistens relativ dunkel.

Die Masken selber scheinen nur aus zwei Farben, schwarz und weiss zu bestehen. Gemäss der Dokumentation der Challenge steht Klasse 0 (was der Farbe Schwarz entspricht), für Hintergrund und Klasse 1 (weiss) für Erdrutsche. Es wird auch ersichtlich, dass meistens deutlich mehr Hintergrund vorhanden ist.

Überprüfung der Klassen in den Train Masken

Folgend untersuche die Farbmodi der Bilder und eine weitere Idee der Daten und notwendigen Aufbereitung zu erhalten. Gemäss Lones untersuche ich nicht alle Daten, sondern beschränke mich auf die Trainingsbilder, die rund 70% des Datensatzes ausmachen.

mode_counter_images = {}

for image_file in image_files:
    image_mode = Image.open(image_file).mode
    if image_mode in mode_counter_images:
        mode_counter_images[image_mode] += 1
    else:
        mode_counter_images[image_mode] = 1

print("Bilder: ", mode_counter_images)

mode_counter_masks = {}

for mask_file  in mask_files:
    mask_mode = Image.open(mask_file ).mode
    if mask_mode in mode_counter_masks:
        mode_counter_masks[mask_mode] += 1
    else:
        mode_counter_masks[mask_mode] = 1

print("Masken: ", mode_counter_masks)

Bilder:  {'RGBA': 1385}
Masken:  {'RGBA': 1385}

Sämtliche Bilder und Masken sind im Modus RGBA enthalten. Damit sollten keine speziellen Hürden bei dem Einlesen entstehen.

Folgend untersuche ich die Annahme, dass in den Masken nur zwei Klassen enthalten sind.

unique_values = set()

for mask_path in mask_files:
    mask = Image.open(mask_path)
    
    values = np.unique(np.array(mask))
    unique_values.update(values)

print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)

Anzahl unterschiedlicher Klassen/Farbtöne:  2
Die unterschiedlichen Klassen/Farbtöne:  [  0 255]

Wie erwähnt sind gemäss Dokumentation in den Masken nur zwei Klassen vorhanden. Farbton 0 entspricht, wie bei der visuellen Inspektion gesehen, der Klasse 0 und Farbton 255 den Erdrutschen. Ich werde diese Daten also in binär 0/1 umwandeln können.

Überprüfung der unterschiedlichen Bildgrössen im Traindatensatz

Unterschiedliche Grössen der Bilder können das Training von Modellen erschweren. Ich werde deshalb auch diese Daten untersuchen.

unique_image_sizes = set()
unique_mask_sizes = set()

for image_file in image_files:
    with Image.open(image_file) as img:
        unique_image_sizes.add(img.size)

for mask_file in mask_files:
    with Image.open(mask_file) as mask:
        unique_mask_sizes.add(mask.size)

print("Einzigartige Bildgrößen:", unique_image_sizes)
print("Einzigartige Maskengrößen:", unique_mask_sizes)

Einzigartige Bildgrößen: {(128, 128)}
Einzigartige Maskengrößen: {(128, 128)}

Sämtliche Bilder und Masken haben die Grösse 128 x 128. Ich werde vorerst keinen Resize einbauen müssen. Höchstens wenn später fremde Bilder, die nicht in dem Datensatz vorhanden sind und entsprechend aufbereitet wurden, untersucht werden wollen, muss ein Resize berücksichtigt werden.

Einlesen der Bilder für EDA

Nun werde ich die Daten in das Format, das für das Training notwendig ist, einlesen. Esi st wichtig, diese Bilder nochmals visuell zu untersuchen, da Transformationen durchgeführt werden und ich sicherstellen möchte, dass diese korrekt funktionieren. Im folgenden Beispiel werde ich die Daten aber nur in einen Tensor umwandeln, da ich die Bilder später auch qualitativ untersuche. Dabei sollen Transformationen wie Normalisierung die Resultate nicht verfälschen.

eda_train_data = SegmentationDataset(root='data', split='train', transform_mode='to_tensor')
eda_train_loader = DataLoader(eda_train_data, batch_size=64, shuffle=False)

eda_train_data_augmentation = SegmentationDataset(root='data', split='train', transform_mode='color_jitter')
eda_train_loader_augmentation = DataLoader(eda_train_data_augmentation, batch_size=64, shuffle=False)

Inspektion der Bilder nach einlesen

Neben der Darstellung der Bilder ohne Bearbeitungen, zeige ich sie rechts daneben zusätzlich mit der Augmentation an. So kann zusätzlich direkt überprüft werden, ob sie korrekt funktioniert und welchen Einfluss sie hat.

images, masks = next(iter(eda_train_loader))
augmented_images, augmented_masks = next(iter(eda_train_loader_augmentation))

fig, axs = plt.subplots(20, 4, figsize=(16, 40))

for i in range(20):
    image = images[i].numpy().transpose((1, 2, 0))
    axs[i, 0].imshow(image)
    axs[i, 0].set_title(f'Beispiel {i + 1}: Bild ohne Augmentation')
    
    mask = masks[i][0].numpy()
    axs[i, 1].imshow(mask, cmap="gray")
    axs[i, 1].set_title(f'Beispiel {i + 1}: Maske ohne Augmentation')

    image = augmented_images[i].numpy().transpose((1, 2, 0))
    axs[i, 2].imshow(image)
    axs[i, 2].set_title(f'Beispiel {i + 1}: Bild mit Augmentation')
    
    mask = augmented_masks[i][0].numpy()
    axs[i, 3].imshow(mask, cmap="gray")
    axs[i, 3].set_title(f'Beispiel {i + 1}: Maske mit Augmentation')

plt.tight_layout()
plt.show()

Im Vergleich zu den zuvor angeschauten Bildern fällt mir die grössere Bandbreite an Farben und Helligkeiten bei den Bildern auf. Ersichtlich werden auch die erwähnten Flüsse, die ich teilweise mit Erdrutschen verwechselt habe. Insgesamt stimmen die Bilder (und der Qualität) weiterhin und die Masken entsprechen den dazugehörenden Bildern.

Ich habe auch die beiden Transformations-Methoden "normalize", "flip" (inkl. Normierung) und "Color Jitter" (inkl Normierung) untersucht und konnte keine Probleme feststellen. Das Einlesen der Bilder funktioniert also wie gewünscht.

Überprüfung der Bildergrössen

Ich bestätigte kurz, dass die Bilder weiterhin die gleiche Grösse aufweisen.

print("Grösser der Bilder:", images.shape)
print("Grösse der Masken:", masks.shape)

Grösser der Bilder: torch.Size([64, 3, 128, 128])
Grösse der Masken: torch.Size([64, 1, 128, 128])

Wie erwartet sind die Bilder weiterhin 128 x 128 gross. Der Wert 64 entspricht der gewünschten Batchsize, dieser Test ist ebenfalls positiv.

Überprüfung der Klassen in den Train Masken

unique_values = set()

for images, masks in eda_train_loader:
    for mask in masks:
        values = np.unique(mask.numpy())
        unique_values.update(values)

print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)

Anzahl unterschiedlicher Klassen/Farbtöne:  2
Die unterschiedlichen Klassen/Farbtöne:  [0. 1.]

Wie ich bei den Originalen festgestellt habe, sind in den masken nur zwei Klassen vorhanden. Ich habe sie nun in die binären Werte 0/1 umgewandelt. Bei den Masken handelt es sich also nicht mehr um Bilder im grayscale, sondern sind binär.

Verteilung der Klassen in den Train Masken

Das Verhältnis zwischen den Klassen kann im Deep Learning wichtig sein, weil Imbalance das Training und die Interpretation von Metriken erschweren kann. In der folgenden Zelle untersuche ich das Verhältnis der beiden Klassen in den Trainingbildern.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

ratio_counter = defaultdict(int)

for _, masks in eda_train_loader:
    for mask in masks:
        total_pixels = mask.numel()
        count_1 = torch.sum(mask).item()
        count_0 = total_pixels - count_1
        ratio = round(count_0 / (count_0 + count_1), 2)
        ratio_counter[ratio] += 1

ratios = list(ratio_counter.keys())
counts = [ratio_counter[ratio] for ratio in ratios]

plt.bar(ratios, counts, width=0.01, color='blue')
plt.xlabel('Verhältnis von 0 zu 1')
plt.ylabel('Anzahl der Bilder')
plt.title('Verteilung der Klassenverteilung in Masken')
plt.show()

Das Histogramm zeigt auf, dass die Klassen sehr ungleichmässig verteilt sind. Die x-Achse entspricht dem Anteil Hintergrund zu Erdrutschen. Ein x-Wert von 0.9 entspricht 90% Hintergrund und 10% Erdrutsch. Die Verteilung zeigt, dass die meisten Bilder ein Verhältnis von über 0.9 aufweisen. Dies entspricht der visuellen Erkenntnis, dass viel mehr Hintergrund vorhanden ist.

Dies bedeutet, dass eine starke Imbalance vorhanden ist. Im Fall dieser Challenge gilt der F1 Score der Erdrutsche als Zielmetrik. Das ist vor dem Hintergrund der Imbalance eine gute Lösung, dass nur die Prognosen der untervertretenen Klasse berücksichtigt wird.

Verteilung der Farben in den Train Bildern

Die Farben und deren Verteilung geben ein qualitatives Verständnis der Bilder. Es kann herausgefunden werden, ob Bilder zum Beispiel über- oder unterbelichtet sind oder ob einzelne Farben anders häufig vertreten sind.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

histogram_red = np.zeros(256)
histogram_green = np.zeros(256)
histogram_blue = np.zeros(256)

for images, _ in eda_train_loader:
    images = images.cpu().numpy()
    
    for i in range(images.shape[0]):
        histogram_red += np.histogram(images[i, 0].flatten(), bins=256, range=(0, 1))[0]
        histogram_green += np.histogram(images[i, 1].flatten(), bins=256, range=(0, 1))[0]
        histogram_blue += np.histogram(images[i, 2].flatten(), bins=256, range=(0, 1))[0]

num_images = len(eda_train_loader.dataset)
histogram_red /= num_images
histogram_green /= num_images
histogram_blue /= num_images

plt.figure(figsize=(10, 5))
plt.title("Durchschnittliches Histogramm über alle Trainingsbilder")
plt.xlabel("Pixelintensität")
plt.ylabel("Durchschnittliche Anzahl")
plt.plot(histogram_red, color='red', label='Rot')
plt.plot(histogram_green, color='green', label='Grün')
plt.plot(histogram_blue, color='blue', label='Blau')
plt.legend()
plt.show()

Die drei Farben kommen in etwa gleich häufig vor. Mit einem Wert um 50 ist die Intensität aber eher tief. Dies ist auch in den Bildern ersichtlich, wo der Wald häufig dunkel ist.

Signal to Noise

Signal to Noise ist eine Metrik, die in unterschiedlichen Usecases im Bereich Signal und Bild zur Anwendung kommt. Sie liefert eine Kennzahl zur Bildqualität und misst das Signal im Verhältnis zum Noise.

def calculate_snr(image):
    mean_value = np.mean(image)
    std_deviation = np.std(image)
    return mean_value / std_deviation

snr_values = []

for images, _ in eda_train_loader:
    for image in images:
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
        snr = calculate_snr(img)
        snr_values.append(snr)

average_snr = np.mean(snr_values)
max_snr = np.max(snr_values)
min_snr = np.min(snr_values)

print("Durchschnittliches SNR:", round(average_snr, 2))
print("Maximales SNR:", round(max_snr, 2))
print("Minimales SNR:", round(min_snr, 2))

Durchschnittliches SNR: 3.14
Maximales SNR: 9.72
Minimales SNR: 1.27

Ich habe kaum Angaben für ideale Werte für Bilder gefunden, laut Wikipedia) ist aber ein Verhältnis von 10 ein akzeptabler Wert. Mit einem durchschnittlichen SNR von 3.14 sind meine Bilder allerdings deutlich darunter und weisen eine hohe Schwankung auf. Dass die Bilder nicht von sehr hoher Qualität sind, habe ich bei der visuellen Inspektion gesehen, der Wert scheint aber doch sehr tief zu sein. Ich gehe nicht davon aus, dass ich ihn mit den klassichen Data Augmentation Verfahren von Pytorch merklich verbessern kann.

Untersuchung des Kontrasts

Für die Berechnung des Kontrasts verwende ich die RMS contrast#RMS_contrast) Methode. Der Kontrast sagt aus, wie stark sich die hellen und dunklen Bereiche eines Bildes unterscheiden.

def calculate_contrast(image):
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
    
    return np.std(gray)

contrast_values = []

for images, _ in eda_train_loader:
    for image in images:
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
        contrast = calculate_contrast(img)
        contrast_values.append(contrast)

average_contrast = np.mean(contrast_values)
max_contrast = np.max(contrast_values)
min_contrast = np.min(contrast_values)

print("Durchschnittlicher Kontrast:", round(average_contrast, 2))
print("Maximaler Kontrast:", round(max_contrast, 2))
print("Minimaler Kontrast:", round(min_contrast, 2))

plt.figure(figsize=(10, 5))
plt.hist(contrast_values, bins=50, color='blue', edgecolor='black', alpha=0.7)
plt.title("Histogramm der Kontrastwerte")
plt.xlabel("Kontrastwert")
plt.ylabel("Anzahl der Bilder")
plt.legend()
plt.show()

No artists with labels found to put in legend.  Note that artists whose label start with an underscore are ignored when legend() is called with no argument.

Durchschnittlicher Kontrast: 14.27
Maximaler Kontrast: 38.45
Minimaler Kontrast: 2.81

Auch hier ist es schwierig, einen idealen Wert zu finden. Wichtig ist aus meiner Sicht, dass die Bandbreite wieder sehr hoch ist. Im Histogramm wird ersichtlich, dass die meisten Werte zwischen 10 und 20 liegen.

Untersuchung der Komponenten

Nun werde ich die Erdrutsche untersuchen. Ich versuche herauszufinden, ob es Unterschiede zum restlichen Bild gibt.

Im ersten Schritt probiere ich die Funktionsweise von cv2.connectedComponentsWithStats aus und plotte für ein Bild die gefundenen Komponenten. Ich verwende dafür die Masken, weil dort die Komponenten entweder Hintergrund oder Erdrütsche sein müssen.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

images, masks = next(iter(eda_train_loader))

# Bild und Maske extrahieren
image = images[0].numpy().transpose(1, 2, 0)  # (C, H, W) zu (H, W, C)
mask = masks[0].numpy().squeeze(0)
if mask.dtype != np.uint8:
    mask = mask.astype(np.uint8)

num_labels, labels, stats, centroids = cv2.connectedComponentsWithStats(mask)
print("Anzahl Komponenten: ", num_labels)
print("Grösse der Komponenten: ", stats[:, cv2.CC_STAT_AREA])

fig, ax = plt.subplots(1, 3, figsize=(18, 6))

ax[0].imshow(image)  
ax[0].set_title("Originalbild")

ax[1].imshow(mask, cmap="gray")
ax[1].set_title("Original Maske")

ax[2].imshow(labels, cmap="jet")
ax[2].set_title("Verbundene Komponenten")

for c in centroids[1:]:  
    ax[2].plot(c[0], c[1], 'ro')  

plt.tight_layout()
plt.show()

Anzahl Komponenten:  2
Grösse der Komponenten:  [15749   635]

Dieser Plot zeigt, dass mit der gewählten Funktion auf Masken gut die Erdrutsche erkannt werden. Ich erhalte weiter die Anzahl die Anzahl der gefundenen Komponenten und die Pixelgrösse. Da der Hintergrund auch als Komponente gezählt wird, muss die Anzahl um 1 reduziert werden und die Grösse der ersten Komponente kann ignoriert werden.

Nun zähle ich die Anzahl Komponenten und stelle sie ins Verhältnis.

n_komponenten = 0
size_komponenten = 0
n_masks = 0

for images, masks in eda_train_loader:
    for maske in masks:
        mask = maske.numpy().squeeze(0).astype(np.uint8)

        num_labels, _, stats, _ = cv2.connectedComponentsWithStats(mask)
        
        n_komponenten += (num_labels - 1)
        size_komponenten += np.sum(stats[1:, cv2.CC_STAT_AREA])
    
    n_masks += len(masks)

mean_components = n_komponenten / n_masks
mean_size = size_komponenten / n_komponenten 

print("Durchschnittliche Anzahl von Komponenten pro Bild:", round(mean_components, 2))
print("Durchschnittliche Grösse der Komponenten in Pixel:", round(mean_size, 2))

Durchschnittliche Anzahl von Komponenten pro Bild: 6.77
Durchschnittliche Grösse der Komponenten in Pixel: 108.83

Über alle Trainingbilder kommen durchschnittlich 6.8 Komponenten (resp. Erdrutsch) vor und sie haben eine gemittelte Grösse von 109 Pixel.

Die Grösse ist im Verhältnis zum gesamten Bilder (16'384 Pixel) sehr klein. Dies bestätigt die visuelle Erkenntnis.

print("Anzahl Pixel pro Maske:", mask.shape[0] * mask.shape[1])

Anzahl Pixel pro Maske: 16384

Ich untersuche nun die Verteilung der Grösse der Erdrutsche.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

component_sizes = []

for _, masks in eda_train_loader:
    for mask in masks:
        mask_np = mask.squeeze(0).numpy().astype(np.uint8)

        _, _, stats, _ = cv2.connectedComponentsWithStats(mask_np, connectivity=8)

        for i, stat in enumerate(stats):
            if i != 0:  # Hintergrund ignorieren
                component_sizes.append(stat[cv2.CC_STAT_AREA])

plt.hist(component_sizes, bins=100, color='blue', edgecolor='black')
plt.title('Verteilung der Objektgrößen')
plt.xlabel('Größe (in Pixel)')
plt.ylabel('Anzahl der Objekte')
plt.show()

Dieses Histogramm zeigt, dass die allermeisten Komponenten sehr klein sind. Es gibt kaum Ausreisser mit einer grösse über 300 Pixel. Dies bestätigt auch die zuvor gemachte Untersuchung der Verhältnisse zwischen Hintergrund und Erdrutsche.

Verteilung der Farben der Komponenten

Aufgrund der visuellen Inspektion vermute ich, dass die Erdrutsche andere Farbmuster aufweisen.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

histogram_red = np.zeros(256)
histogram_green = np.zeros(256)
histogram_blue = np.zeros(256)

component_count = 0

for images, masks in eda_train_loader:
    images = images.cpu().numpy()

    for idx, mask in enumerate(masks):
        mask_np = mask.squeeze(0).numpy().astype(np.uint8)
        
        # Erhalte nur die Pixel, die den Wert 1 in der Maske haben
        component_mask = (mask_np == 1)

        # Wenn es Pixel in der Komponentenmaske gibt, führe die Analyse durch
        if np.any(component_mask):
            component_count += 1

            red_values = images[idx, 0][component_mask].flatten()
            green_values = images[idx, 1][component_mask].flatten()
            blue_values = images[idx, 2][component_mask].flatten()

            histogram_red += np.histogram(red_values, bins=256, range=(0, 1))[0]
            histogram_green += np.histogram(green_values, bins=256, range=(0, 1))[0]
            histogram_blue += np.histogram(blue_values, bins=256, range=(0, 1))[0]

histogram_red /= component_count
histogram_green /= component_count
histogram_blue /= component_count

plt.figure(figsize=(10, 5))
plt.title("Durchschnittliches Histogramm über alle markierten Pixel im Bild")
plt.xlabel("Pixelintensität")
plt.ylabel("Durchschnittliche Anzahl")
plt.plot(histogram_red, color='red', label='Rot')
plt.plot(histogram_green, color='green', label='Grün')
plt.plot(histogram_blue, color='blue', label='Blau')
plt.legend()
plt.show()

Das Histogramm der Trainingsbilder bestätigt, dass die Farben der Erdrutsche anders sind. Insbesondere die Farbe Rot weist einen höheren Mittelwert und Streuung auf. Auch die Farben Blau und Grün weisen einen höheren Mittelwert auf. Die Erdrutsche sind also heller und weisen einen höheren rot-Stich aus, was in der visuellen Inspektion erkennbar war.

Untersuchung der Bildschärfe

Folgend untersuche ich die Unschärfe der Erdrutsche und vergleiche sie mit der Unschärfe der gesamten Bilder. Ich verwende dafür die variance of the Laplacian Methode.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

def estimate_blur(image, mask):
    masked_image = cv2.bitwise_and(image, image, mask=mask)
    gray = cv2.cvtColor(masked_image, cv2.COLOR_BGR2GRAY)
    fm = cv2.Laplacian(gray, cv2.CV_64F).var()
    return fm

blur_scores_masked = []

for images, masks in eda_train_loader:
    for idx, image in enumerate(images):
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
        mask = masks[idx].squeeze(0).numpy().astype(np.uint8) * 255  # Maske auf den Wertebereich [0, 255] skalieren
        blur_score = estimate_blur(img, mask)
        blur_scores_masked.append(blur_score)

average_blur = np.mean(blur_scores_masked)
max_blur = np.max(blur_scores_masked)
min_blur = np.min(blur_scores_masked)

print("Durchschnittliche Unschärfe in der Maske:", round(average_blur, 2))
print("Maximale Unschärfe in der Maske:", round(max_blur, 2))
print("Minimale Unschärfe in der Maske:", round(min_blur, 2))

Durchschnittliche Unschärfe in der Maske: 464.4
Maximale Unschärfe in der Maske: 3034.71
Minimale Unschärfe in der Maske: 0.0

def estimate_blur(image):
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
    fm = cv2.Laplacian(gray, cv2.CV_64F).var()
    return fm

blur_scores_whole = []

for images, _ in eda_train_loader:
    for image in images:
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
        blur_score = estimate_blur(img)
        blur_scores_whole.append(blur_score)

average_blur = np.mean(blur_scores_whole)
max_blur = np.max(blur_scores_whole)
min_blur = np.min(blur_scores_whole)

print("Durchschnittliche Unschärfe im gesamten Bild:", round(average_blur, 2))
print("Maximale Unschärfe im gesamten Bild:", round(max_blur, 2))
print("Minimale Unschärfe im gesamten Bild:", round(min_blur, 2))

Durchschnittliche Unschärfe im gesamten Bild: 159.17
Maximale Unschärfe im gesamten Bild: 573.14
Minimale Unschärfe im gesamten Bild: 11.67

plt.figure(figsize=(12, 6))

plt.subplot(1, 2, 1)
weights_masked = np.ones_like(blur_scores_masked) / len(blur_scores_masked)
plt.hist(blur_scores_masked, bins=50, range=(0, 3000), weights=weights_masked, color='blue', label='Unschärfe in der Maske')
plt.xlabel('Unschärfe-Score (Variance of Laplacian)')
plt.ylabel('Relative Häufigkeit')
plt.title('Histogramm der Unschärfe in der Maske')
plt.legend()
plt.grid(True)


plt.subplot(1, 2, 2)
weights_whole = np.ones_like(blur_scores_whole) / len(blur_scores_whole)
plt.hist(blur_scores_whole, bins=50, range=(0, 3000), weights=weights_whole, color='red', label='Unschärfe im gesamten Bild')
plt.xlabel('Unschärfe-Score (Variance of Laplacian)')
plt.ylabel('Relative Häufigkeit')
plt.title('Histogramm der Unschärfe im gesamten Bild')
plt.legend()
plt.grid(True)

plt.tight_layout()
plt.show()

Diese Histogramm vergleichen die relative Häufigkeit der Unschärfe-Scores pro Pixel. Im linken Histogramm wurde für die Berechnung des Scores nur die Pixel der Erdrutsche verwendet, während rechts das gesamte Bild angeschaut wurde. Es wird ersichtlich, dass die Erdrutsche deutlich höhere Scores aufweisen können, verglichen mit den gesamten Bildern. Ein höherer Score bedeutet, dass Schärfe besser ist.

Ich vermute, dass die Schärfe bei Erdrutschen höher ist, als bei den Wälder, weil die Baumkronen meistens das gleiche Muster aufweisen und die Wälder deshalb eher als Fläche dargestellt werden. Bei Erdrutschen sind mehr Details zu erkennen, was vermutlich zu den höheren Scores führt.

Rand-Intensitätsanalyse

Ich untersuche zuletzt auch die Ränder der Komponenten/Erdrutsche. Ich möchte dabei feststellen, ob ein Unterschied zum restlichen Bild festgestellt werden kann. Da die Ränder sehr dünn sind, bin ich vorerst noch skeptisch.

Ich lege keinen starken Wert auf diese Untersuchung, den der Code wurde mit viel Try/Error mit ChatGPT erstellt. Auch wenn das Resultat plausibel erscheint, besteht ein Risiko, weil ich nicht die einzelne Komponenten testen konnte. Trotzdem finde ich es eine interessante Untersuchung und führe sie durch.

# Dieser Code wurde zusammen mit ChatGPT erstellt.

kernel = np.ones((3,3),np.uint8)

def get_inner_outer_edge_pixels(mask):
    dilation = cv2.dilate(mask, kernel, iterations=1)   # Erweitert die Ränder der Maske nach außen
    erosion = cv2.erode(mask, kernel, iterations=1)     # Verengt die Ränder der Maske nach innen
    
    inner_edge = mask - erosion         # Pixel knapp innerhalb der Ränder isolieren
    outer_edge = dilation - mask        # Pixel knapp außerhalb der Ränder isolieren
    
    return inner_edge, outer_edge


def calculate_edge_intensity(image, mask):
    # Identifizieren Sie die Komponenten in der Maske
    num_labels, labels, stats, centroids = cv2.connectedComponentsWithStats(mask)

    # Konvertieren Sie das Bild in Graustufen für die Intensitätsanalyse
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)

    edge_intensities = []
    component_intensities = []

    for i in range(1, num_labels):
        # Erzeugen Sie eine Maske nur für die aktuelle Komponente
        component_mask = (labels == i).astype(np.uint8) * 255

        component_intensity = np.mean(gray[component_mask == 255])
        component_intensities.append(component_intensity)

        contours, _ = cv2.findContours(component_mask, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)

        if not contours:
            continue

        for contour in contours:
            for point in contour:
                x, y = point[0]
                edge_intensities.append(gray[y, x])

    if not edge_intensities:
        return None, None, None

    average_intensity = np.mean(edge_intensities)
    contrast = np.std(edge_intensities)
    average_component_intensity = np.mean(component_intensities)

    return average_intensity, contrast, average_component_intensity

intensity_values = []
contrast_values = []
component_intensities = []
differences = []

for images, masks in eda_train_loader:
    for image, mask_tensor in zip(images, masks):
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)
        mask = mask_tensor.numpy().squeeze(0).astype(np.uint8)

        average_intensity, contrast, comp_intensity = calculate_edge_intensity(img, mask)
        
        if average_intensity is not None and contrast is not None and comp_intensity is not None:
            intensity_values.append(average_intensity)
            contrast_values.append(contrast)
            component_intensities.append(comp_intensity)
        
        inner_edge, outer_edge = get_inner_outer_edge_pixels(mask)

        inner_edge_values = img[inner_edge == 1]
        outer_edge_values = img[outer_edge == 1]
        
        if inner_edge_values.size > 0 and outer_edge_values.size > 0:
            diff = np.mean(inner_edge_values) - np.mean(outer_edge_values)
            differences.append(diff)

average_intensity = np.mean(intensity_values) if intensity_values else None
average_contrast = np.mean(contrast_values) if contrast_values else None
average_comp_intensity = np.mean(component_intensities) if component_intensities else None
average_diff = np.mean(differences) if differences else None

print("Durchschnittliche Rand-Intensität:", round(average_intensity, 2) if average_intensity is not None else "N/A")
print("Durchschnittliche Intensität der Komponenten:", round(average_comp_intensity, 2) if average_comp_intensity is not None else "N/A")
print("Durchschnittliche Differenz der Intensität zwischen inneren und äußeren Rändern:", round(average_diff, 2) if average_diff is not None else "N/A")
print("Durchschnittlicher Kontrast an den Rändern:", round(average_contrast, 2) if average_contrast is not None else "N/A")

Durchschnittliche Rand-Intensität: 85.59
Durchschnittliche Intensität der Komponenten: 91.57
Durchschnittliche Differenz der Intensität zwischen inneren und äußeren Rändern: 21.65
Durchschnittlicher Kontrast an den Rändern: 20.1

Die Graustufen Intensität an den Rändern beträgt 85.6 und die Intensität der gesamten Komponenten 91.6. Die Differenz der Intensität von knapp innerhalb zu knapp ausserhalb der Ränder beträgt 21.6.

Ein Vergleich und Einschätzung folgt nach der Berechnung der Intensität des gesamten Bildes.

def calculate_image_intensity_and_contrast(image):
    gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)

    average_intensity = np.mean(gray)
    contrast = np.std(gray)

    return average_intensity, contrast

intensity_values = []
contrast_values = []

for images, _ in eda_train_loader:
    for image in images:
        img = (image.permute(1, 2, 0).numpy() * 255).astype(np.uint8)

        average_intensity, contrast = calculate_image_intensity_and_contrast(img)
        intensity_values.append(average_intensity)
        contrast_values.append(contrast)

average_intensity = np.mean(intensity_values)
average_contrast = np.mean(contrast_values)

print("Durchschnittliche Intensität:", round(average_intensity, 2))
print("Durchschnittlicher Kontrast:", round(average_contrast, 2))

Durchschnittliche Intensität: 54.8
Durchschnittlicher Kontrast: 14.27

Die Komponenten haben eine Intensität von 91.6, verglichen mit lediglich 54.8 über das gesamte Bild. Die Erdrutsche sind also deutlich heller, als die restlichen Teil des Bildes. Das bestätigt bereits getroffene Feststellungen. Da die Intensität an den Rändern der Erdrutsche um 21.6 steigt, deutet das darauf hin, dass die Ränder eine klar erkennbar Kante darstellen. Sollte dieses Resultat stimmen, gehe ich davon aus, dass auch die Modelle gut daran lernen können.

Zusätzlich habe ich den Kontrast vom gesamten Bild und den Komponenten berechnet. Dieser ist bei den Komponenten mit 20.1 merklich höher als beim gesamten Bild mit 14.3.

Zusammenfassung von EDA

Die explorative Datenanalyse der Bilder hat interessante Erkenntnisse geliefert. Zum einen hat sich gezeigt, dass die Bilderqualität nicht sehr hoch ist. Auch sind die Erdrutsche relativ klein. Trotzdem unterscheiden sie sich vom Hintergrund in mehreren qualitativen Aspekten, wie Farbtöne, Kontrast, Schärfe und Intensität/Helligkeit. Ich gehe deshalb davon aus, dass trotz negativer Aspekte die Modelle die Erdrutsch lernen und segmentieren können.

Vorbereitung der Codes fürs Training

device = "cuda" if torch.cuda.is_available() else "mps" if torch.backends.mps.is_available() else "cpu"
print(device)

cuda

def do_modeltrain(config, model, device, transform_train):
    
    train_data = SegmentationDataset(root='data', split='train', transform_mode=transform_train)
    train_loader = DataLoader(train_data, batch_size=config.batchsize, shuffle=True, num_workers = 10)

    test_data = SegmentationDataset(root='data', split='test', transform_mode='to_tensor')
    test_loader = DataLoader(test_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)

    val_data = SegmentationDataset(root='data', split='validation', transform_mode='to_tensor')
    val_loader = DataLoader(val_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
    
    loss_fn = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([weight_1]).to(device))
    optimizer = optim.Adam(model.parameters(), lr=config.learn_rate, weight_decay=config.l2_penalty)

    for t in range(config.epochs):
        train_loss, train_f1_background, train_f1_landslide= train_binary(train_loader, model, loss_fn, optimizer, device)
        test_loss, test_f1_background, test_f1_landslide = test_binary(test_loader, model, loss_fn, device)
        
        # Übermittlung der Daten an W&B
        wandb.log({"Train loss": train_loss, "Test loss": test_loss, "Train F1 Background": train_f1_background, "Train F1 Landslides": train_f1_landslide, "Test F1 Background": test_f1_background, "Test F1 Landslides": test_f1_landslide})
        print(t, "Train loss:", round(train_loss, 6), "Test loss:", round(test_loss, 6), "Train F1 Background:", round(train_f1_background, 6), "Train F1 Landslides:", round(train_f1_landslide, 6), "Test F1 Background:", round(test_f1_background, 6), "Test F1 Landslides:", round(test_f1_landslide, 6))

    val_loss, f1_val_background, f1_val_landslide = validation_binary(val_loader, model, loss_fn, device)
    wandb.log({"Val Loss": val_loss, "Val F1 Background": f1_val_background, "Val F1 Landslides": f1_val_landslide})

    print("Validation Loss: ", round(val_loss, 6), "Val F1 Background: ", round(f1_val_background, 6), "Val F1 Landslides: ", round(f1_val_landslide, 6))
    
    plot_samples_binary(train_loader, model, device, "Training")
    plot_samples_binary(val_loader, model, device, "Validation")
    
    wandb.config["Model Name"] = model.__class__.__name__ 

count_1 = 0
count_0 = 0

for _, masks in eda_train_loader:
    for mask in masks:
        count_1 += torch.sum(mask).item()
        count_0 += mask.numel() - torch.sum(mask).item()

total_pixels = count_0 + count_1

weight_0 = count_0 / total_pixels
weight_1 = count_1 / total_pixels

print("Gewicht für Klasse 0 (Hintergrund):", weight_0)
print("Gewicht für Klasse 1 (Landslide):", weight_1)

Gewicht für Klasse 0 (Hintergrund): 0.9550122863549187
Gewicht für Klasse 1 (Landslide): 0.04498771364508123

Baseline

Wie erwähnt handelt es sich beim Datensatz um eine Challenge Landslide4Sense-2022. Im Github Repo haben sie neben unzähligen Informationen und Anleitungen ein eigenes Baseline-Resultat veröffentlicht. Mit dem Validation Set haben mit U-Net einen F1 Score von 57.82 erzielt. Ich nehme deshalb dieses Resultat als mein Baseline und werde meine eigenen Modelle mit diesem Resultat vergleichen.

Bevor ich meine eigenen Modelle trainiere, habe ich das Model, das der Challenge-Owner zur Erstellung der Baseline verwendet hat, angeschaut:

• Bildergrösse = 128x128: Die originalen Bilder haben bereits diese Grösse und ich belasse diese unverändert.
• Anzahl Klassen = 2: Dies entspricht gemäss EDA auch meiner Anzahl Klassen.
• Batchsize = 32: Ich werde unterschiedliche Batchgrössen untersuchen.
• Learning Rate = 1e-2: Auch hier werde ich unterschiedliche Werte untersuchen. Da ich bei Versuchen festgestellt habe, dass 1e-2 auch ein guter Wert ist, werde ich mit diesem starten.
• Number Training steps = 5000: Ich verstehe nicht ganz, ob damit die Trainingsepochen gemeint ist. Aufgrund Resourcenbeschränkungen werde ich mit deutlich weniger Epochen, im tieferen zweistelligen Bereich, arbeiten.
• Weight Decay = 5e-4: Ich werde vorläufig keinen Penalty verwenden, ihn aber bei der Regularisierung untersuchen.
• Optimizer = Adam: Ich werde den selben Optimizer verwenden.
• Loss = CrossEntropyLoss: Auch hier verwende ich die selbe Metrik.

Auswahl der Modelle

Ich habe mich entschieden, die Modelle FCN (Pytorch "fcn_resnet50") und Deeplabv3 (Pytorch deeplabv3_resnet50) zu verwenden. Es war mir dabei wichtig, Modelle möglichst gut vergleichen zu können. Ich habe mich deshalb für diese Modelle entschieden, weil sie von Pytorch implementiert wurden und den selben Output haben. Zu Beginn habe ich anstelle vom FCN mit U-Net gearbeitet, doch wurde dieses "extern" und für MRI Bilder implementiert. Neben dem unterschiedlichen Output und damit notwendigen doppelten Code, bereitete das U-Net Mühe bei Anpassungen, wie den Wechsel von Crossentropy Loss zur binären Crossentropy Loss. Obwohl ich nach den ersten Versuchen das Gefühl hatte, dass U-Net die kleinen Komponenten besser als Deeplabv3 lernen kann, habe ich mich schlussendlich gegen U-Net und für FCN entschieden.

Pretrained Weights: Ich werde die pretrained Weights von Pytorch verwenden. Für beide Modelle sind diese für den Datensatz VOC vorhanden. In Vergleichen beim Overfitting habe ich bei beiden Modellen festgestellt, dass mit diesen pretrained Weights die F1 Scores zu Beginn deutlich schneller steigen. Erst nach Abflachung der Steigung holt der Test ohne pretrained Weights langsam auf. Auch wenn ich länger als diesen optimalen Anzahl Epochen trainiere, behalte ich diese Weights bei, für den Fall, dass auch mal mit weniger Epochen trainiert werden soll. Weiter habe ich festgestellt, dass der Test Loss deutlich stabiler verläuft, wenn vortrainierte Gewichte verwendet werden.

Overfit

Ich werde die Modelle U-Net und Deeplabv3 untersuchen. Beim U-Net bin ich insbesondere gespannt, ob und wie stark ich das Baseline der Challenge-Owner übertreffen kann.

Overfit FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Overfit FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_overfit_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "to_tensor")

    torch.save(model.state_dict(), "weights/model_overfit_fcn.pth")

wandb.agent(sweep_overfit_fcn, function=main)
wandb.finish()

Create sweep with ID: 8z42navp
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/8z42navp

wandb: Agent Starting Run: 0p1b2cjl with config:
wandb: 	batchsize: 64
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_181452-0p1b2cjl

Syncing run brisk-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/8z42navp

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/8z42navp

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/0p1b2cjl

0 Train loss: 0.228274 Test loss: 0.052368 Train F1 Background: 0.953641 Train F1 Landslides: 0.037917 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.041177 Test loss: 0.02532 Train F1 Background: 0.976986 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.022806 Test loss: 0.018913 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.017409 Test loss: 0.016308 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976332 Test F1 Landslides: 0.000756
4 Train loss: 0.01476 Test loss: 0.013256 Train F1 Background: 0.97699 Train F1 Landslides: 0.000233 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.013093 Test loss: 0.012031 Train F1 Background: 0.977045 Train F1 Landslides: 0.005096 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
6 Train loss: 0.012108 Test loss: 0.011465 Train F1 Background: 0.977139 Train F1 Landslides: 0.013407 Test F1 Background: 0.976344 Test F1 Landslides: 0.001775
7 Train loss: 0.01125 Test loss: 0.011196 Train F1 Background: 0.977282 Train F1 Landslides: 0.026048 Test F1 Background: 0.976788 Test F1 Landslides: 0.042418
8 Train loss: 0.010591 Test loss: 0.011022 Train F1 Background: 0.977555 Train F1 Landslides: 0.049926 Test F1 Background: 0.977256 Test F1 Landslides: 0.086821
9 Train loss: 0.010393 Test loss: 0.011767 Train F1 Background: 0.977623 Train F1 Landslides: 0.055455 Test F1 Background: 0.977346 Test F1 Landslides: 0.102122
10 Train loss: 0.009703 Test loss: 0.009833 Train F1 Background: 0.978332 Train F1 Landslides: 0.114259 Test F1 Background: 0.976436 Test F1 Landslides: 0.009752
11 Train loss: 0.009405 Test loss: 0.00968 Train F1 Background: 0.97872 Train F1 Landslides: 0.145143 Test F1 Background: 0.97749 Test F1 Landslides: 0.110607
12 Train loss: 0.009034 Test loss: 0.009678 Train F1 Background: 0.979038 Train F1 Landslides: 0.16859 Test F1 Background: 0.977808 Test F1 Landslides: 0.135797
13 Train loss: 0.008618 Test loss: 0.009141 Train F1 Background: 0.979848 Train F1 Landslides: 0.226961 Test F1 Background: 0.977557 Test F1 Landslides: 0.107831
14 Train loss: 0.008477 Test loss: 0.010283 Train F1 Background: 0.980475 Train F1 Landslides: 0.27045 Test F1 Background: 0.979782 Test F1 Landslides: 0.295502
15 Train loss: 0.008184 Test loss: 0.009049 Train F1 Background: 0.980621 Train F1 Landslides: 0.279669 Test F1 Background: 0.977283 Test F1 Landslides: 0.082627
16 Train loss: 0.007955 Test loss: 0.009619 Train F1 Background: 0.980979 Train F1 Landslides: 0.302512 Test F1 Background: 0.978431 Test F1 Landslides: 0.190782
17 Train loss: 0.007762 Test loss: 0.008999 Train F1 Background: 0.981564 Train F1 Landslides: 0.339142 Test F1 Background: 0.977988 Test F1 Landslides: 0.145047
18 Train loss: 0.007602 Test loss: 0.009344 Train F1 Background: 0.981492 Train F1 Landslides: 0.334406 Test F1 Background: 0.979011 Test F1 Landslides: 0.231196
19 Train loss: 0.00758 Test loss: 0.008828 Train F1 Background: 0.981781 Train F1 Landslides: 0.352247 Test F1 Background: 0.978799 Test F1 Landslides: 0.207698
20 Train loss: 0.007413 Test loss: 0.008803 Train F1 Background: 0.982027 Train F1 Landslides: 0.366975 Test F1 Background: 0.978129 Test F1 Landslides: 0.154556
21 Train loss: 0.0071 Test loss: 0.008861 Train F1 Background: 0.982404 Train F1 Landslides: 0.38812 Test F1 Background: 0.978296 Test F1 Landslides: 0.169714
22 Train loss: 0.006948 Test loss: 0.009976 Train F1 Background: 0.982654 Train F1 Landslides: 0.402115 Test F1 Background: 0.979979 Test F1 Landslides: 0.306869
23 Train loss: 0.006995 Test loss: 0.009172 Train F1 Background: 0.982708 Train F1 Landslides: 0.405388 Test F1 Background: 0.979197 Test F1 Landslides: 0.240739
24 Train loss: 0.006968 Test loss: 0.009584 Train F1 Background: 0.982731 Train F1 Landslides: 0.407496 Test F1 Background: 0.979642 Test F1 Landslides: 0.285039
25 Train loss: 0.006854 Test loss: 0.009068 Train F1 Background: 0.982711 Train F1 Landslides: 0.405927 Test F1 Background: 0.978804 Test F1 Landslides: 0.213742
26 Train loss: 0.006683 Test loss: 0.008942 Train F1 Background: 0.982992 Train F1 Landslides: 0.421083 Test F1 Background: 0.978943 Test F1 Landslides: 0.220298
27 Train loss: 0.006454 Test loss: 0.009052 Train F1 Background: 0.983422 Train F1 Landslides: 0.444404 Test F1 Background: 0.977704 Test F1 Landslides: 0.117342
28 Train loss: 0.006484 Test loss: 0.008804 Train F1 Background: 0.983334 Train F1 Landslides: 0.439531 Test F1 Background: 0.978047 Test F1 Landslides: 0.149116
29 Train loss: 0.006415 Test loss: 0.009329 Train F1 Background: 0.983354 Train F1 Landslides: 0.440537 Test F1 Background: 0.979821 Test F1 Landslides: 0.289681
30 Train loss: 0.006474 Test loss: 0.00892 Train F1 Background: 0.98339 Train F1 Landslides: 0.442864 Test F1 Background: 0.978271 Test F1 Landslides: 0.167517
31 Train loss: 0.006223 Test loss: 0.00896 Train F1 Background: 0.983719 Train F1 Landslides: 0.459864 Test F1 Background: 0.979022 Test F1 Landslides: 0.229913
32 Train loss: 0.006092 Test loss: 0.008989 Train F1 Background: 0.983937 Train F1 Landslides: 0.470833 Test F1 Background: 0.979482 Test F1 Landslides: 0.260511
33 Train loss: 0.005898 Test loss: 0.008893 Train F1 Background: 0.98424 Train F1 Landslides: 0.485985 Test F1 Background: 0.978981 Test F1 Landslides: 0.223163
34 Train loss: 0.00583 Test loss: 0.009326 Train F1 Background: 0.984307 Train F1 Landslides: 0.489282 Test F1 Background: 0.97973 Test F1 Landslides: 0.281866
35 Train loss: 0.005735 Test loss: 0.009168 Train F1 Background: 0.984563 Train F1 Landslides: 0.502028 Test F1 Background: 0.97879 Test F1 Landslides: 0.208964
36 Train loss: 0.005614 Test loss: 0.009168 Train F1 Background: 0.984561 Train F1 Landslides: 0.501751 Test F1 Background: 0.97941 Test F1 Landslides: 0.25744
37 Train loss: 0.005546 Test loss: 0.009106 Train F1 Background: 0.984755 Train F1 Landslides: 0.511318 Test F1 Background: 0.979294 Test F1 Landslides: 0.247525
38 Train loss: 0.005552 Test loss: 0.009449 Train F1 Background: 0.984794 Train F1 Landslides: 0.513131 Test F1 Background: 0.979757 Test F1 Landslides: 0.28414
39 Train loss: 0.005601 Test loss: 0.009127 Train F1 Background: 0.984816 Train F1 Landslides: 0.514588 Test F1 Background: 0.978836 Test F1 Landslides: 0.209615
40 Train loss: 0.005566 Test loss: 0.009155 Train F1 Background: 0.984738 Train F1 Landslides: 0.51072 Test F1 Background: 0.978998 Test F1 Landslides: 0.224724
41 Train loss: 0.005478 Test loss: 0.009366 Train F1 Background: 0.984886 Train F1 Landslides: 0.517758 Test F1 Background: 0.979488 Test F1 Landslides: 0.264549
42 Train loss: 0.005429 Test loss: 0.00932 Train F1 Background: 0.984997 Train F1 Landslides: 0.522992 Test F1 Background: 0.979542 Test F1 Landslides: 0.268767
43 Train loss: 0.005387 Test loss: 0.009443 Train F1 Background: 0.985046 Train F1 Landslides: 0.525417 Test F1 Background: 0.978489 Test F1 Landslides: 0.181717
44 Train loss: 0.005483 Test loss: 0.010704 Train F1 Background: 0.984983 Train F1 Landslides: 0.522516 Test F1 Background: 0.980432 Test F1 Landslides: 0.339378
45 Train loss: 0.005545 Test loss: 0.00973 Train F1 Background: 0.985 Train F1 Landslides: 0.523692 Test F1 Background: 0.97873 Test F1 Landslides: 0.209079
46 Train loss: 0.005494 Test loss: 0.009427 Train F1 Background: 0.984894 Train F1 Landslides: 0.518424 Test F1 Background: 0.979009 Test F1 Landslides: 0.228618
47 Train loss: 0.005346 Test loss: 0.009169 Train F1 Background: 0.985059 Train F1 Landslides: 0.526124 Test F1 Background: 0.979264 Test F1 Landslides: 0.243896
48 Train loss: 0.005249 Test loss: 0.009336 Train F1 Background: 0.985357 Train F1 Landslides: 0.540015 Test F1 Background: 0.979394 Test F1 Landslides: 0.256405
49 Train loss: 0.005183 Test loss: 0.009632 Train F1 Background: 0.985431 Train F1 Landslides: 0.543384 Test F1 Background: 0.979846 Test F1 Landslides: 0.291691
50 Train loss: 0.005147 Test loss: 0.009216 Train F1 Background: 0.985494 Train F1 Landslides: 0.546261 Test F1 Background: 0.979012 Test F1 Landslides: 0.226232
51 Train loss: 0.005142 Test loss: 0.009492 Train F1 Background: 0.985507 Train F1 Landslides: 0.546891 Test F1 Background: 0.979203 Test F1 Landslides: 0.241746
52 Train loss: 0.005335 Test loss: 0.009528 Train F1 Background: 0.985267 Train F1 Landslides: 0.536075 Test F1 Background: 0.978213 Test F1 Landslides: 0.162519
53 Train loss: 0.005261 Test loss: 0.010595 Train F1 Background: 0.985493 Train F1 Landslides: 0.546584 Test F1 Background: 0.980114 Test F1 Landslides: 0.318902
54 Train loss: 0.00521 Test loss: 0.009611 Train F1 Background: 0.985432 Train F1 Landslides: 0.543608 Test F1 Background: 0.978939 Test F1 Landslides: 0.222864
55 Train loss: 0.0052 Test loss: 0.009689 Train F1 Background: 0.985407 Train F1 Landslides: 0.542384 Test F1 Background: 0.979834 Test F1 Landslides: 0.289963
56 Train loss: 0.005101 Test loss: 0.009904 Train F1 Background: 0.985522 Train F1 Landslides: 0.547663 Test F1 Background: 0.980001 Test F1 Landslides: 0.305343
57 Train loss: 0.005036 Test loss: 0.009305 Train F1 Background: 0.985805 Train F1 Landslides: 0.560575 Test F1 Background: 0.979239 Test F1 Landslides: 0.247913
58 Train loss: 0.004977 Test loss: 0.009499 Train F1 Background: 0.985806 Train F1 Landslides: 0.560588 Test F1 Background: 0.979148 Test F1 Landslides: 0.237503
59 Train loss: 0.004996 Test loss: 0.009361 Train F1 Background: 0.985778 Train F1 Landslides: 0.559172 Test F1 Background: 0.979191 Test F1 Landslides: 0.239829
60 Train loss: 0.004949 Test loss: 0.010017 Train F1 Background: 0.985904 Train F1 Landslides: 0.564915 Test F1 Background: 0.979915 Test F1 Landslides: 0.300628
61 Train loss: 0.004913 Test loss: 0.009702 Train F1 Background: 0.986032 Train F1 Landslides: 0.570616 Test F1 Background: 0.979384 Test F1 Landslides: 0.259623
62 Train loss: 0.004905 Test loss: 0.010003 Train F1 Background: 0.986049 Train F1 Landslides: 0.57135 Test F1 Background: 0.980105 Test F1 Landslides: 0.312296
63 Train loss: 0.004873 Test loss: 0.009648 Train F1 Background: 0.986113 Train F1 Landslides: 0.574238 Test F1 Background: 0.979307 Test F1 Landslides: 0.252913
64 Train loss: 0.004897 Test loss: 0.009916 Train F1 Background: 0.986069 Train F1 Landslides: 0.572283 Test F1 Background: 0.979521 Test F1 Landslides: 0.27
65 Train loss: 0.004898 Test loss: 0.01023 Train F1 Background: 0.986058 Train F1 Landslides: 0.571754 Test F1 Background: 0.980392 Test F1 Landslides: 0.334312
66 Train loss: 0.004869 Test loss: 0.010339 Train F1 Background: 0.986167 Train F1 Landslides: 0.576713 Test F1 Background: 0.980213 Test F1 Landslides: 0.322452
67 Train loss: 0.004856 Test loss: 0.009861 Train F1 Background: 0.986141 Train F1 Landslides: 0.575509 Test F1 Background: 0.979489 Test F1 Landslides: 0.26797
68 Train loss: 0.004867 Test loss: 0.010279 Train F1 Background: 0.986144 Train F1 Landslides: 0.575669 Test F1 Background: 0.980198 Test F1 Landslides: 0.318924
69 Train loss: 0.00488 Test loss: 0.009506 Train F1 Background: 0.986207 Train F1 Landslides: 0.578476 Test F1 Background: 0.979009 Test F1 Landslides: 0.229461
70 Train loss: 0.004834 Test loss: 0.011092 Train F1 Background: 0.986208 Train F1 Landslides: 0.578434 Test F1 Background: 0.980479 Test F1 Landslides: 0.347053
71 Train loss: 0.004827 Test loss: 0.010023 Train F1 Background: 0.986246 Train F1 Landslides: 0.580103 Test F1 Background: 0.980073 Test F1 Landslides: 0.309803
72 Train loss: 0.004804 Test loss: 0.010205 Train F1 Background: 0.986307 Train F1 Landslides: 0.582856 Test F1 Background: 0.979717 Test F1 Landslides: 0.28503
73 Train loss: 0.004821 Test loss: 0.011792 Train F1 Background: 0.986188 Train F1 Landslides: 0.57752 Test F1 Background: 0.980797 Test F1 Landslides: 0.373882
74 Train loss: 0.004842 Test loss: 0.011305 Train F1 Background: 0.98627 Train F1 Landslides: 0.581276 Test F1 Background: 0.980864 Test F1 Landslides: 0.371369
75 Train loss: 0.004811 Test loss: 0.010074 Train F1 Background: 0.98632 Train F1 Landslides: 0.583432 Test F1 Background: 0.979835 Test F1 Landslides: 0.291751
76 Train loss: 0.004774 Test loss: 0.010683 Train F1 Background: 0.986307 Train F1 Landslides: 0.582788 Test F1 Background: 0.980116 Test F1 Landslides: 0.318503
77 Train loss: 0.004832 Test loss: 0.010752 Train F1 Background: 0.986233 Train F1 Landslides: 0.579631 Test F1 Background: 0.980259 Test F1 Landslides: 0.32823
78 Train loss: 0.004813 Test loss: 0.010671 Train F1 Background: 0.986332 Train F1 Landslides: 0.584101 Test F1 Background: 0.979884 Test F1 Landslides: 0.301517
79 Train loss: 0.004874 Test loss: 0.011048 Train F1 Background: 0.986195 Train F1 Landslides: 0.577967 Test F1 Background: 0.980668 Test F1 Landslides: 0.356805
Validation Loss:  0.010465 Val F1 Background:  0.983771 Val F1 Landslides:  0.386747

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▁▁▂▁▃▆▄▅▄▇▆▅▄▄▆▆▆▆▅▆▇▅▆▅▄▅▇▅▇▇▆▇▇▇▆█▇█
Test F1 Landslides	▁▁▁▁▃▁▄▇▅▅▄▇▆▅▄▄▆▆▆▆▅▆▇▅▆▅▄▅▇▅▇▇▆▇▇█▆█▇█
Test loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▆▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇███████████████████████
Train F1 Landslides	▁▁▁▁▂▂▃▄▅▅▅▆▆▆▆▆▇▇▇▇▇▇▇▇▇█▇█████████████
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.98067
Test F1 Landslides	0.3568
Test loss	0.01105
Train F1 Background	0.98619
Train F1 Landslides	0.57797
Train loss	0.00487
Val F1 Background	0.98377
Val F1 Landslides	0.38675
Val Loss	0.01046

View run brisk-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/0p1b2cjl
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_181452-0p1b2cjl/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Overfit Deeplabv3

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Overfit Deeplabv3",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [60]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_overfit = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "to_tensor")
    
    torch.save(model.state_dict(), "weights/model_overfit_deeplab2.pth")

wandb.agent(sweep_overfit, function=main)
wandb.finish()

Create sweep with ID: crgqnbf6
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/crgqnbf6

wandb: Agent Starting Run: wadgzpch with config:
wandb: 	batchsize: 64
wandb: 	epochs: 60
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_183202-wadgzpch

Syncing run fallen-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/crgqnbf6

View project at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/crgqnbf6

View run at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/wadgzpch

0 Train loss: 0.335164 Test loss: 0.766798 Train F1 Background: 0.935582 Train F1 Landslides: 0.075614 Test F1 Background: 0.952308 Test F1 Landslides: 0.0461
1 Train loss: 0.096388 Test loss: 0.062911 Train F1 Background: 0.976958 Train F1 Landslides: 0.000131 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.048825 Test loss: 0.037525 Train F1 Background: 0.976981 Train F1 Landslides: 5.5e-05 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.03222 Test loss: 0.027332 Train F1 Background: 0.976989 Train F1 Landslides: 0.000188 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.024771 Test loss: 0.021697 Train F1 Background: 0.976991 Train F1 Landslides: 0.000229 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.020084 Test loss: 0.017272 Train F1 Background: 0.977067 Train F1 Landslides: 0.00781 Test F1 Background: 0.976433 Test F1 Landslides: 0.010912
6 Train loss: 0.017185 Test loss: 0.015659 Train F1 Background: 0.9771 Train F1 Landslides: 0.010462 Test F1 Background: 0.976296 Test F1 Landslides: 0.004707
7 Train loss: 0.015435 Test loss: 0.014171 Train F1 Background: 0.977193 Train F1 Landslides: 0.018638 Test F1 Background: 0.976635 Test F1 Landslides: 0.033335
8 Train loss: 0.014107 Test loss: 0.013622 Train F1 Background: 0.977379 Train F1 Landslides: 0.035462 Test F1 Background: 0.977223 Test F1 Landslides: 0.082234
9 Train loss: 0.013156 Test loss: 0.013616 Train F1 Background: 0.977418 Train F1 Landslides: 0.038378 Test F1 Background: 0.978178 Test F1 Landslides: 0.174659
10 Train loss: 0.012294 Test loss: 0.011582 Train F1 Background: 0.977723 Train F1 Landslides: 0.064808 Test F1 Background: 0.976422 Test F1 Landslides: 0.008752
11 Train loss: 0.011778 Test loss: 0.011165 Train F1 Background: 0.977937 Train F1 Landslides: 0.082283 Test F1 Background: 0.9772 Test F1 Landslides: 0.07977
12 Train loss: 0.011165 Test loss: 0.010661 Train F1 Background: 0.978221 Train F1 Landslides: 0.105691 Test F1 Background: 0.976715 Test F1 Landslides: 0.034941
13 Train loss: 0.010739 Test loss: 0.010269 Train F1 Background: 0.978519 Train F1 Landslides: 0.129304 Test F1 Background: 0.977143 Test F1 Landslides: 0.07426
14 Train loss: 0.010253 Test loss: 0.010172 Train F1 Background: 0.978702 Train F1 Landslides: 0.143171 Test F1 Background: 0.977185 Test F1 Landslides: 0.07936
15 Train loss: 0.01021 Test loss: 0.010122 Train F1 Background: 0.97874 Train F1 Landslides: 0.146847 Test F1 Background: 0.97695 Test F1 Landslides: 0.061553
16 Train loss: 0.009827 Test loss: 0.009546 Train F1 Background: 0.978917 Train F1 Landslides: 0.16001 Test F1 Background: 0.9771 Test F1 Landslides: 0.068968
17 Train loss: 0.009662 Test loss: 0.009936 Train F1 Background: 0.979142 Train F1 Landslides: 0.176849 Test F1 Background: 0.976512 Test F1 Landslides: 0.016761
18 Train loss: 0.00955 Test loss: 0.009591 Train F1 Background: 0.979181 Train F1 Landslides: 0.180285 Test F1 Background: 0.976853 Test F1 Landslides: 0.047757
19 Train loss: 0.009115 Test loss: 0.009244 Train F1 Background: 0.979585 Train F1 Landslides: 0.208908 Test F1 Background: 0.977751 Test F1 Landslides: 0.126303
20 Train loss: 0.008949 Test loss: 0.009241 Train F1 Background: 0.97993 Train F1 Landslides: 0.233161 Test F1 Background: 0.977839 Test F1 Landslides: 0.134605
21 Train loss: 0.008621 Test loss: 0.009099 Train F1 Background: 0.980249 Train F1 Landslides: 0.254706 Test F1 Background: 0.977628 Test F1 Landslides: 0.113287
22 Train loss: 0.008378 Test loss: 0.0098 Train F1 Background: 0.980635 Train F1 Landslides: 0.280363 Test F1 Background: 0.979455 Test F1 Landslides: 0.268774
23 Train loss: 0.0083 Test loss: 0.009121 Train F1 Background: 0.980829 Train F1 Landslides: 0.293006 Test F1 Background: 0.977869 Test F1 Landslides: 0.133518
24 Train loss: 0.008656 Test loss: 0.009108 Train F1 Background: 0.980268 Train F1 Landslides: 0.257234 Test F1 Background: 0.977792 Test F1 Landslides: 0.12932
25 Train loss: 0.008808 Test loss: 0.009138 Train F1 Background: 0.979625 Train F1 Landslides: 0.213366 Test F1 Background: 0.977822 Test F1 Landslides: 0.129827
26 Train loss: 0.008394 Test loss: 0.008912 Train F1 Background: 0.979986 Train F1 Landslides: 0.237146 Test F1 Background: 0.978828 Test F1 Landslides: 0.21154
27 Train loss: 0.008001 Test loss: 0.00874 Train F1 Background: 0.980987 Train F1 Landslides: 0.302857 Test F1 Background: 0.977795 Test F1 Landslides: 0.125962
28 Train loss: 0.007691 Test loss: 0.008727 Train F1 Background: 0.981453 Train F1 Landslides: 0.331871 Test F1 Background: 0.9784 Test F1 Landslides: 0.177099
29 Train loss: 0.007524 Test loss: 0.008721 Train F1 Background: 0.981765 Train F1 Landslides: 0.35069 Test F1 Background: 0.978788 Test F1 Landslides: 0.207371
30 Train loss: 0.00737 Test loss: 0.008644 Train F1 Background: 0.982037 Train F1 Landslides: 0.366775 Test F1 Background: 0.978435 Test F1 Landslides: 0.180222
31 Train loss: 0.00722 Test loss: 0.00889 Train F1 Background: 0.982154 Train F1 Landslides: 0.373655 Test F1 Background: 0.979126 Test F1 Landslides: 0.234727
32 Train loss: 0.007123 Test loss: 0.008905 Train F1 Background: 0.982353 Train F1 Landslides: 0.385161 Test F1 Background: 0.978233 Test F1 Landslides: 0.162748
33 Train loss: 0.007018 Test loss: 0.008737 Train F1 Background: 0.982394 Train F1 Landslides: 0.387319 Test F1 Background: 0.978695 Test F1 Landslides: 0.200518
34 Train loss: 0.006905 Test loss: 0.008748 Train F1 Background: 0.982573 Train F1 Landslides: 0.397671 Test F1 Background: 0.978263 Test F1 Landslides: 0.164186
35 Train loss: 0.006795 Test loss: 0.009377 Train F1 Background: 0.982673 Train F1 Landslides: 0.402928 Test F1 Background: 0.98007 Test F1 Landslides: 0.305455
36 Train loss: 0.006755 Test loss: 0.009197 Train F1 Background: 0.982824 Train F1 Landslides: 0.41151 Test F1 Background: 0.9791 Test F1 Landslides: 0.23653
37 Train loss: 0.006623 Test loss: 0.008694 Train F1 Background: 0.982911 Train F1 Landslides: 0.416215 Test F1 Background: 0.978841 Test F1 Landslides: 0.21066
38 Train loss: 0.006583 Test loss: 0.008898 Train F1 Background: 0.982985 Train F1 Landslides: 0.420303 Test F1 Background: 0.979245 Test F1 Landslides: 0.242879
39 Train loss: 0.006495 Test loss: 0.008786 Train F1 Background: 0.983156 Train F1 Landslides: 0.429626 Test F1 Background: 0.979181 Test F1 Landslides: 0.236078
40 Train loss: 0.006457 Test loss: 0.009319 Train F1 Background: 0.98316 Train F1 Landslides: 0.429792 Test F1 Background: 0.979789 Test F1 Landslides: 0.286711
41 Train loss: 0.006341 Test loss: 0.008874 Train F1 Background: 0.983465 Train F1 Landslides: 0.446343 Test F1 Background: 0.97835 Test F1 Landslides: 0.171893
42 Train loss: 0.006218 Test loss: 0.009201 Train F1 Background: 0.983436 Train F1 Landslides: 0.444437 Test F1 Background: 0.97966 Test F1 Landslides: 0.276342
43 Train loss: 0.006123 Test loss: 0.009161 Train F1 Background: 0.983648 Train F1 Landslides: 0.455749 Test F1 Background: 0.979581 Test F1 Landslides: 0.271284
44 Train loss: 0.006052 Test loss: 0.008978 Train F1 Background: 0.983793 Train F1 Landslides: 0.463234 Test F1 Background: 0.979539 Test F1 Landslides: 0.263896
45 Train loss: 0.005967 Test loss: 0.009356 Train F1 Background: 0.983777 Train F1 Landslides: 0.462263 Test F1 Background: 0.979852 Test F1 Landslides: 0.29136
46 Train loss: 0.005918 Test loss: 0.008969 Train F1 Background: 0.984 Train F1 Landslides: 0.473801 Test F1 Background: 0.979456 Test F1 Landslides: 0.257507
47 Train loss: 0.005848 Test loss: 0.00925 Train F1 Background: 0.98403 Train F1 Landslides: 0.475334 Test F1 Background: 0.979627 Test F1 Landslides: 0.271952
48 Train loss: 0.005798 Test loss: 0.009471 Train F1 Background: 0.98418 Train F1 Landslides: 0.482946 Test F1 Background: 0.979833 Test F1 Landslides: 0.289698
49 Train loss: 0.005801 Test loss: 0.009129 Train F1 Background: 0.984165 Train F1 Landslides: 0.482263 Test F1 Background: 0.979654 Test F1 Landslides: 0.273671
50 Train loss: 0.005765 Test loss: 0.009257 Train F1 Background: 0.984199 Train F1 Landslides: 0.483909 Test F1 Background: 0.979715 Test F1 Landslides: 0.278417
51 Train loss: 0.005677 Test loss: 0.009058 Train F1 Background: 0.98442 Train F1 Landslides: 0.494991 Test F1 Background: 0.979437 Test F1 Landslides: 0.257292
52 Train loss: 0.005676 Test loss: 0.010001 Train F1 Background: 0.984456 Train F1 Landslides: 0.49672 Test F1 Background: 0.980522 Test F1 Landslides: 0.340604
53 Train loss: 0.005627 Test loss: 0.009201 Train F1 Background: 0.984531 Train F1 Landslides: 0.500541 Test F1 Background: 0.979371 Test F1 Landslides: 0.254917
54 Train loss: 0.005657 Test loss: 0.009365 Train F1 Background: 0.984476 Train F1 Landslides: 0.49784 Test F1 Background: 0.979124 Test F1 Landslides: 0.238631
55 Train loss: 0.005665 Test loss: 0.009362 Train F1 Background: 0.984447 Train F1 Landslides: 0.496473 Test F1 Background: 0.979716 Test F1 Landslides: 0.279354
56 Train loss: 0.005543 Test loss: 0.009652 Train F1 Background: 0.984547 Train F1 Landslides: 0.501313 Test F1 Background: 0.980156 Test F1 Landslides: 0.313707
57 Train loss: 0.005529 Test loss: 0.009092 Train F1 Background: 0.984682 Train F1 Landslides: 0.508028 Test F1 Background: 0.979003 Test F1 Landslides: 0.225154
58 Train loss: 0.005469 Test loss: 0.009191 Train F1 Background: 0.984666 Train F1 Landslides: 0.507019 Test F1 Background: 0.979544 Test F1 Landslides: 0.265973
59 Train loss: 0.005413 Test loss: 0.009461 Train F1 Background: 0.984872 Train F1 Landslides: 0.517042 Test F1 Background: 0.979835 Test F1 Landslides: 0.28846
Validation Loss:  0.009168 Val F1 Background:  0.982853 Val F1 Landslides:  0.312744

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇█▇▇▇▇▇██▇████████████████
Test F1 Landslides	▂▁▁▁▁▂▅▁▂▃▂▂▂▄▃▇▄▄▄▅▅▆▅▄▆▅▆▇▇▇▇▆▇▇▆█▆▇▆▇
Test loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇█████████████████████
Train F1 Landslides	▂▁▁▁▁▁▂▂▂▃▃▃▃▄▄▅▄▄▅▅▆▆▆▆▇▇▇▇▇▇▇▇████████
Train loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97984
Test F1 Landslides	0.28846
Test loss	0.00946
Train F1 Background	0.98487
Train F1 Landslides	0.51704
Train loss	0.00541
Val F1 Background	0.98285
Val F1 Landslides	0.31274
Val Loss	0.00917

View run fallen-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/wadgzpch
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_183202-wadgzpch/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Regularize

Normalization FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize Norm FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_norm_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "normalize")

    torch.save(model.state_dict(), "weights/model_regularize_norm_fcn.pth")

wandb.agent(sweep_regularize_norm_fcn, function=main)
wandb.finish()

Create sweep with ID: kwgvzx94
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/kwgvzx94

wandb: Agent Starting Run: mjar0k4v with config:
wandb: 	batchsize: 64
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_175814-mjar0k4v

Syncing run astral-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/kwgvzx94

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/kwgvzx94

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/mjar0k4v

0 Train loss: 0.273962 Test loss: 0.056051 Train F1 Background: 0.92711 Train F1 Landslides: 0.066966 Test F1 Background: 0.976043 Test F1 Landslides: 6.6e-05
1 Train loss: 0.049221 Test loss: 0.027287 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.025142 Test loss: 0.020201 Train F1 Background: 0.976994 Train F1 Landslides: 0.000443 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.018558 Test loss: 0.016009 Train F1 Background: 0.977037 Train F1 Landslides: 0.004287 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.015554 Test loss: 0.013897 Train F1 Background: 0.977096 Train F1 Landslides: 0.00972 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.013771 Test loss: 0.012675 Train F1 Background: 0.977248 Train F1 Landslides: 0.023139 Test F1 Background: 0.976363 Test F1 Landslides: 0.004167
6 Train loss: 0.012568 Test loss: 0.011779 Train F1 Background: 0.977435 Train F1 Landslides: 0.039797 Test F1 Background: 0.976398 Test F1 Landslides: 0.007487
7 Train loss: 0.011822 Test loss: 0.01161 Train F1 Background: 0.977482 Train F1 Landslides: 0.043598 Test F1 Background: 0.977185 Test F1 Landslides: 0.080666
8 Train loss: 0.011079 Test loss: 0.010703 Train F1 Background: 0.977776 Train F1 Landslides: 0.068687 Test F1 Background: 0.977152 Test F1 Landslides: 0.075149
9 Train loss: 0.010522 Test loss: 0.010294 Train F1 Background: 0.978262 Train F1 Landslides: 0.108417 Test F1 Background: 0.976753 Test F1 Landslides: 0.042134
10 Train loss: 0.010102 Test loss: 0.009954 Train F1 Background: 0.978364 Train F1 Landslides: 0.117056 Test F1 Background: 0.976598 Test F1 Landslides: 0.025248
11 Train loss: 0.009773 Test loss: 0.00979 Train F1 Background: 0.978562 Train F1 Landslides: 0.131742 Test F1 Background: 0.977128 Test F1 Landslides: 0.074474
12 Train loss: 0.009458 Test loss: 0.010161 Train F1 Background: 0.979011 Train F1 Landslides: 0.166645 Test F1 Background: 0.978422 Test F1 Landslides: 0.18652
13 Train loss: 0.009112 Test loss: 0.009496 Train F1 Background: 0.97956 Train F1 Landslides: 0.207238 Test F1 Background: 0.97675 Test F1 Landslides: 0.038066
14 Train loss: 0.008918 Test loss: 0.00936 Train F1 Background: 0.979526 Train F1 Landslides: 0.204297 Test F1 Background: 0.97727 Test F1 Landslides: 0.082854
15 Train loss: 0.008575 Test loss: 0.009523 Train F1 Background: 0.980173 Train F1 Landslides: 0.249496 Test F1 Background: 0.976952 Test F1 Landslides: 0.055006
16 Train loss: 0.008403 Test loss: 0.009297 Train F1 Background: 0.980128 Train F1 Landslides: 0.246253 Test F1 Background: 0.977541 Test F1 Landslides: 0.108644
17 Train loss: 0.008144 Test loss: 0.009085 Train F1 Background: 0.980691 Train F1 Landslides: 0.283612 Test F1 Background: 0.97818 Test F1 Landslides: 0.160399
18 Train loss: 0.007926 Test loss: 0.009379 Train F1 Background: 0.981121 Train F1 Landslides: 0.311384 Test F1 Background: 0.97878 Test F1 Landslides: 0.213929
19 Train loss: 0.007747 Test loss: 0.009197 Train F1 Background: 0.981357 Train F1 Landslides: 0.32601 Test F1 Background: 0.978361 Test F1 Landslides: 0.175795
20 Train loss: 0.007492 Test loss: 0.009381 Train F1 Background: 0.981882 Train F1 Landslides: 0.357946 Test F1 Background: 0.97865 Test F1 Landslides: 0.20175
21 Train loss: 0.007365 Test loss: 0.009178 Train F1 Background: 0.981916 Train F1 Landslides: 0.359801 Test F1 Background: 0.978048 Test F1 Landslides: 0.149984
22 Train loss: 0.007149 Test loss: 0.009294 Train F1 Background: 0.982164 Train F1 Landslides: 0.374023 Test F1 Background: 0.97888 Test F1 Landslides: 0.218524
23 Train loss: 0.007033 Test loss: 0.009442 Train F1 Background: 0.982349 Train F1 Landslides: 0.385064 Test F1 Background: 0.97835 Test F1 Landslides: 0.180087
24 Train loss: 0.006982 Test loss: 0.009306 Train F1 Background: 0.982421 Train F1 Landslides: 0.389017 Test F1 Background: 0.979128 Test F1 Landslides: 0.23573
25 Train loss: 0.006734 Test loss: 0.009546 Train F1 Background: 0.982997 Train F1 Landslides: 0.421372 Test F1 Background: 0.978503 Test F1 Landslides: 0.189859
26 Train loss: 0.006672 Test loss: 0.009134 Train F1 Background: 0.9829 Train F1 Landslides: 0.415649 Test F1 Background: 0.978583 Test F1 Landslides: 0.193121
27 Train loss: 0.00654 Test loss: 0.009208 Train F1 Background: 0.983042 Train F1 Landslides: 0.423609 Test F1 Background: 0.97871 Test F1 Landslides: 0.201065
28 Train loss: 0.006436 Test loss: 0.009308 Train F1 Background: 0.983342 Train F1 Landslides: 0.439824 Test F1 Background: 0.978871 Test F1 Landslides: 0.215599
29 Train loss: 0.006334 Test loss: 0.00953 Train F1 Background: 0.983407 Train F1 Landslides: 0.443263 Test F1 Background: 0.979108 Test F1 Landslides: 0.238469
30 Train loss: 0.006278 Test loss: 0.009392 Train F1 Background: 0.983471 Train F1 Landslides: 0.446552 Test F1 Background: 0.979028 Test F1 Landslides: 0.228925
31 Train loss: 0.00621 Test loss: 0.010055 Train F1 Background: 0.983583 Train F1 Landslides: 0.452484 Test F1 Background: 0.979499 Test F1 Landslides: 0.275009
32 Train loss: 0.006127 Test loss: 0.009115 Train F1 Background: 0.98373 Train F1 Landslides: 0.460073 Test F1 Background: 0.978656 Test F1 Landslides: 0.196586
33 Train loss: 0.005953 Test loss: 0.009518 Train F1 Background: 0.98398 Train F1 Landslides: 0.472871 Test F1 Background: 0.979041 Test F1 Landslides: 0.230788
34 Train loss: 0.006065 Test loss: 0.009275 Train F1 Background: 0.983763 Train F1 Landslides: 0.461749 Test F1 Background: 0.978715 Test F1 Landslides: 0.204932
35 Train loss: 0.00591 Test loss: 0.009322 Train F1 Background: 0.984013 Train F1 Landslides: 0.474685 Test F1 Background: 0.978949 Test F1 Landslides: 0.224092
36 Train loss: 0.005827 Test loss: 0.009249 Train F1 Background: 0.984084 Train F1 Landslides: 0.478052 Test F1 Background: 0.979093 Test F1 Landslides: 0.231398
37 Train loss: 0.00571 Test loss: 0.009342 Train F1 Background: 0.984332 Train F1 Landslides: 0.490498 Test F1 Background: 0.979083 Test F1 Landslides: 0.232398
38 Train loss: 0.005731 Test loss: 0.010481 Train F1 Background: 0.984318 Train F1 Landslides: 0.489885 Test F1 Background: 0.980286 Test F1 Landslides: 0.329341
39 Train loss: 0.005679 Test loss: 0.010277 Train F1 Background: 0.984452 Train F1 Landslides: 0.4966 Test F1 Background: 0.980022 Test F1 Landslides: 0.307911
40 Train loss: 0.005672 Test loss: 0.009676 Train F1 Background: 0.9845 Train F1 Landslides: 0.49908 Test F1 Background: 0.979423 Test F1 Landslides: 0.259101
41 Train loss: 0.005661 Test loss: 0.009285 Train F1 Background: 0.984505 Train F1 Landslides: 0.499377 Test F1 Background: 0.978567 Test F1 Landslides: 0.19224
42 Train loss: 0.005656 Test loss: 0.011272 Train F1 Background: 0.98447 Train F1 Landslides: 0.497712 Test F1 Background: 0.980568 Test F1 Landslides: 0.354082
43 Train loss: 0.005586 Test loss: 0.009453 Train F1 Background: 0.984623 Train F1 Landslides: 0.505015 Test F1 Background: 0.979037 Test F1 Landslides: 0.225612
44 Train loss: 0.005461 Test loss: 0.010251 Train F1 Background: 0.984827 Train F1 Landslides: 0.514801 Test F1 Background: 0.979937 Test F1 Landslides: 0.301561
45 Train loss: 0.005387 Test loss: 0.0095 Train F1 Background: 0.985025 Train F1 Landslides: 0.524271 Test F1 Background: 0.979158 Test F1 Landslides: 0.239898
46 Train loss: 0.005388 Test loss: 0.010262 Train F1 Background: 0.984951 Train F1 Landslides: 0.520733 Test F1 Background: 0.980068 Test F1 Landslides: 0.31073
47 Train loss: 0.005347 Test loss: 0.009823 Train F1 Background: 0.985071 Train F1 Landslides: 0.526517 Test F1 Background: 0.979024 Test F1 Landslides: 0.231444
48 Train loss: 0.005375 Test loss: 0.009831 Train F1 Background: 0.985063 Train F1 Landslides: 0.526196 Test F1 Background: 0.979053 Test F1 Landslides: 0.233752
49 Train loss: 0.005372 Test loss: 0.010016 Train F1 Background: 0.985146 Train F1 Landslides: 0.530237 Test F1 Background: 0.979324 Test F1 Landslides: 0.256505
50 Train loss: 0.005277 Test loss: 0.009648 Train F1 Background: 0.985199 Train F1 Landslides: 0.5327 Test F1 Background: 0.97853 Test F1 Landslides: 0.190077
51 Train loss: 0.005255 Test loss: 0.010161 Train F1 Background: 0.985263 Train F1 Landslides: 0.535532 Test F1 Background: 0.979609 Test F1 Landslides: 0.277992
52 Train loss: 0.005252 Test loss: 0.009827 Train F1 Background: 0.985283 Train F1 Landslides: 0.536532 Test F1 Background: 0.979731 Test F1 Landslides: 0.282248
53 Train loss: 0.005187 Test loss: 0.009701 Train F1 Background: 0.985483 Train F1 Landslides: 0.545832 Test F1 Background: 0.979437 Test F1 Landslides: 0.259688
54 Train loss: 0.005123 Test loss: 0.010377 Train F1 Background: 0.985545 Train F1 Landslides: 0.548614 Test F1 Background: 0.980051 Test F1 Landslides: 0.309832
55 Train loss: 0.0051 Test loss: 0.010088 Train F1 Background: 0.985615 Train F1 Landslides: 0.551808 Test F1 Background: 0.979821 Test F1 Landslides: 0.292904
56 Train loss: 0.005049 Test loss: 0.010089 Train F1 Background: 0.985641 Train F1 Landslides: 0.552965 Test F1 Background: 0.979837 Test F1 Landslides: 0.291128
57 Train loss: 0.005079 Test loss: 0.010413 Train F1 Background: 0.985686 Train F1 Landslides: 0.555025 Test F1 Background: 0.980198 Test F1 Landslides: 0.31921
58 Train loss: 0.005101 Test loss: 0.010597 Train F1 Background: 0.985717 Train F1 Landslides: 0.556628 Test F1 Background: 0.980283 Test F1 Landslides: 0.325595
59 Train loss: 0.005107 Test loss: 0.010375 Train F1 Background: 0.985665 Train F1 Landslides: 0.554307 Test F1 Background: 0.979688 Test F1 Landslides: 0.282816
60 Train loss: 0.005056 Test loss: 0.00961 Train F1 Background: 0.985688 Train F1 Landslides: 0.555269 Test F1 Background: 0.978679 Test F1 Landslides: 0.202693
61 Train loss: 0.005097 Test loss: 0.010533 Train F1 Background: 0.98565 Train F1 Landslides: 0.553616 Test F1 Background: 0.979731 Test F1 Landslides: 0.288519
62 Train loss: 0.005038 Test loss: 0.009801 Train F1 Background: 0.985776 Train F1 Landslides: 0.559215 Test F1 Background: 0.979189 Test F1 Landslides: 0.242049
63 Train loss: 0.004991 Test loss: 0.010233 Train F1 Background: 0.985847 Train F1 Landslides: 0.562391 Test F1 Background: 0.979569 Test F1 Landslides: 0.275781
64 Train loss: 0.004988 Test loss: 0.010524 Train F1 Background: 0.985876 Train F1 Landslides: 0.563774 Test F1 Background: 0.97982 Test F1 Landslides: 0.296512
65 Train loss: 0.004953 Test loss: 0.009962 Train F1 Background: 0.985856 Train F1 Landslides: 0.562777 Test F1 Background: 0.979681 Test F1 Landslides: 0.279619
66 Train loss: 0.004896 Test loss: 0.010003 Train F1 Background: 0.986037 Train F1 Landslides: 0.570862 Test F1 Background: 0.979316 Test F1 Landslides: 0.253427
67 Train loss: 0.004923 Test loss: 0.010076 Train F1 Background: 0.986001 Train F1 Landslides: 0.569221 Test F1 Background: 0.979623 Test F1 Landslides: 0.276136
68 Train loss: 0.004899 Test loss: 0.009911 Train F1 Background: 0.98603 Train F1 Landslides: 0.570557 Test F1 Background: 0.97948 Test F1 Landslides: 0.262661
69 Train loss: 0.004914 Test loss: 0.010244 Train F1 Background: 0.986003 Train F1 Landslides: 0.56938 Test F1 Background: 0.979719 Test F1 Landslides: 0.285265
70 Train loss: 0.004943 Test loss: 0.010319 Train F1 Background: 0.986067 Train F1 Landslides: 0.572389 Test F1 Background: 0.979712 Test F1 Landslides: 0.287231
71 Train loss: 0.005006 Test loss: 0.010329 Train F1 Background: 0.985883 Train F1 Landslides: 0.564262 Test F1 Background: 0.979344 Test F1 Landslides: 0.254823
72 Train loss: 0.004998 Test loss: 0.011236 Train F1 Background: 0.985817 Train F1 Landslides: 0.561176 Test F1 Background: 0.980105 Test F1 Landslides: 0.319667
73 Train loss: 0.004951 Test loss: 0.010289 Train F1 Background: 0.985986 Train F1 Landslides: 0.568721 Test F1 Background: 0.979784 Test F1 Landslides: 0.290593
74 Train loss: 0.004872 Test loss: 0.010255 Train F1 Background: 0.986122 Train F1 Landslides: 0.574782 Test F1 Background: 0.979845 Test F1 Landslides: 0.293141
75 Train loss: 0.004847 Test loss: 0.010441 Train F1 Background: 0.986132 Train F1 Landslides: 0.575064 Test F1 Background: 0.979899 Test F1 Landslides: 0.299255
76 Train loss: 0.004824 Test loss: 0.010265 Train F1 Background: 0.98616 Train F1 Landslides: 0.576339 Test F1 Background: 0.979909 Test F1 Landslides: 0.294775
77 Train loss: 0.004838 Test loss: 0.010904 Train F1 Background: 0.986254 Train F1 Landslides: 0.580545 Test F1 Background: 0.980392 Test F1 Landslides: 0.334514
78 Train loss: 0.004836 Test loss: 0.01076 Train F1 Background: 0.986183 Train F1 Landslides: 0.577374 Test F1 Background: 0.980094 Test F1 Landslides: 0.313036
79 Train loss: 0.004794 Test loss: 0.010919 Train F1 Background: 0.986245 Train F1 Landslides: 0.580136 Test F1 Background: 0.979956 Test F1 Landslides: 0.30779
Validation Loss:  0.009884 Val F1 Background:  0.983122 Val F1 Landslides:  0.335146

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▁▂▃▂▅▃▃▅▅▅▆▅▅▆▅▅▆█▆█▇▇▆▅▇▇▇█▅▆▇▆▆▇▇▇▇▇
Test F1 Landslides	▁▁▁▁▂▁▅▃▃▅▅▅▆▅▅▆▅▅▆█▆█▇▇▆▅▇▇▇▇▅▆▇▆▆▇▇▇▇▇
Test loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇█████████████████████████████
Train F1 Landslides	▂▁▁▁▂▂▃▃▄▅▅▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇▇█████████████
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97996
Test F1 Landslides	0.30779
Test loss	0.01092
Train F1 Background	0.98625
Train F1 Landslides	0.58014
Train loss	0.00479
Val F1 Background	0.98312
Val F1 Landslides	0.33515
Val Loss	0.00988

View run astral-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/mjar0k4v
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_175814-mjar0k4v/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Normalization Deeplabv3

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize Norm Deeplabv3",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [60]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_norm = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "normalize")

    torch.save(model.state_dict(), "weights/model_regularize_norm_deeplab2.pth")

wandb.agent(sweep_regularize_norm, function=main)
wandb.finish()

Create sweep with ID: 6jr2pvtg
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/6jr2pvtg

wandb: Agent Starting Run: 7isg352q with config:
wandb: 	batchsize: 64
wandb: 	epochs: 60
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_185058-7isg352q

Syncing run crisp-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/6jr2pvtg

View project at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/6jr2pvtg

View run at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/7isg352q

0 Train loss: 0.333644 Test loss: 0.160966 Train F1 Background: 0.936835 Train F1 Landslides: 0.119179 Test F1 Background: 0.976162 Test F1 Landslides: 0.000198
1 Train loss: 0.090312 Test loss: 0.075653 Train F1 Background: 0.976956 Train F1 Landslides: 7.8e-05 Test F1 Background: 0.972484 Test F1 Landslides: 0.001681
2 Train loss: 0.045883 Test loss: 0.038662 Train F1 Background: 0.976985 Train F1 Landslides: 0.0 Test F1 Background: 0.975631 Test F1 Landslides: 0.000528
3 Train loss: 0.030847 Test loss: 0.025725 Train F1 Background: 0.976987 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.023491 Test loss: 0.020898 Train F1 Background: 0.977023 Train F1 Landslides: 0.003073 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.019437 Test loss: 0.017161 Train F1 Background: 0.977039 Train F1 Landslides: 0.004611 Test F1 Background: 0.976326 Test F1 Landslides: 0.000239
6 Train loss: 0.016987 Test loss: 0.018146 Train F1 Background: 0.977151 Train F1 Landslides: 0.014604 Test F1 Background: 0.976031 Test F1 Landslides: 0.011658
7 Train loss: 0.015225 Test loss: 0.017177 Train F1 Background: 0.977241 Train F1 Landslides: 0.02339 Test F1 Background: 0.976783 Test F1 Landslides: 0.093527
8 Train loss: 0.013967 Test loss: 0.016634 Train F1 Background: 0.977438 Train F1 Landslides: 0.040717 Test F1 Background: 0.975968 Test F1 Landslides: 0.003348
9 Train loss: 0.013091 Test loss: 0.014566 Train F1 Background: 0.977455 Train F1 Landslides: 0.042683 Test F1 Background: 0.976223 Test F1 Landslides: 0.017178
10 Train loss: 0.012366 Test loss: 0.015712 Train F1 Background: 0.977416 Train F1 Landslides: 0.038614 Test F1 Background: 0.976071 Test F1 Landslides: 0.014631
11 Train loss: 0.011763 Test loss: 0.01718 Train F1 Background: 0.977872 Train F1 Landslides: 0.077393 Test F1 Background: 0.975683 Test F1 Landslides: 0.005704
12 Train loss: 0.011289 Test loss: 0.014956 Train F1 Background: 0.977746 Train F1 Landslides: 0.066753 Test F1 Background: 0.976585 Test F1 Landslides: 0.063333
13 Train loss: 0.011065 Test loss: 0.012003 Train F1 Background: 0.977639 Train F1 Landslides: 0.057331 Test F1 Background: 0.977899 Test F1 Landslides: 0.161136
14 Train loss: 0.010794 Test loss: 0.010965 Train F1 Background: 0.977918 Train F1 Landslides: 0.082149 Test F1 Background: 0.97636 Test F1 Landslides: 0.026004
15 Train loss: 0.010255 Test loss: 0.010938 Train F1 Background: 0.978167 Train F1 Landslides: 0.101662 Test F1 Background: 0.976967 Test F1 Landslides: 0.085595
16 Train loss: 0.010148 Test loss: 0.010143 Train F1 Background: 0.9783 Train F1 Landslides: 0.112245 Test F1 Background: 0.978077 Test F1 Landslides: 0.156893
17 Train loss: 0.009808 Test loss: 0.009669 Train F1 Background: 0.978527 Train F1 Landslides: 0.130211 Test F1 Background: 0.976902 Test F1 Landslides: 0.051833
18 Train loss: 0.009444 Test loss: 0.010038 Train F1 Background: 0.97902 Train F1 Landslides: 0.168114 Test F1 Background: 0.976705 Test F1 Landslides: 0.049111
19 Train loss: 0.009162 Test loss: 0.009227 Train F1 Background: 0.979323 Train F1 Landslides: 0.19005 Test F1 Background: 0.977064 Test F1 Landslides: 0.06483
20 Train loss: 0.009159 Test loss: 0.009112 Train F1 Background: 0.979556 Train F1 Landslides: 0.207483 Test F1 Background: 0.977235 Test F1 Landslides: 0.079387
21 Train loss: 0.008843 Test loss: 0.009547 Train F1 Background: 0.979876 Train F1 Landslides: 0.229353 Test F1 Background: 0.978366 Test F1 Landslides: 0.179581
22 Train loss: 0.008697 Test loss: 0.008996 Train F1 Background: 0.980068 Train F1 Landslides: 0.242766 Test F1 Background: 0.977477 Test F1 Landslides: 0.100914
23 Train loss: 0.008491 Test loss: 0.009426 Train F1 Background: 0.980447 Train F1 Landslides: 0.268806 Test F1 Background: 0.979218 Test F1 Landslides: 0.246077
24 Train loss: 0.008254 Test loss: 0.008985 Train F1 Background: 0.980609 Train F1 Landslides: 0.278369 Test F1 Background: 0.978468 Test F1 Landslides: 0.183658
25 Train loss: 0.008152 Test loss: 0.00918 Train F1 Background: 0.981191 Train F1 Landslides: 0.316734 Test F1 Background: 0.978713 Test F1 Landslides: 0.202063
26 Train loss: 0.008158 Test loss: 0.008714 Train F1 Background: 0.980819 Train F1 Landslides: 0.292306 Test F1 Background: 0.978013 Test F1 Landslides: 0.142742
27 Train loss: 0.007915 Test loss: 0.009314 Train F1 Background: 0.981196 Train F1 Landslides: 0.316621 Test F1 Background: 0.977972 Test F1 Landslides: 0.142962
28 Train loss: 0.007988 Test loss: 0.008756 Train F1 Background: 0.981124 Train F1 Landslides: 0.312437 Test F1 Background: 0.977603 Test F1 Landslides: 0.1098
29 Train loss: 0.007751 Test loss: 0.009607 Train F1 Background: 0.981276 Train F1 Landslides: 0.321244 Test F1 Background: 0.979722 Test F1 Landslides: 0.288064
30 Train loss: 0.007544 Test loss: 0.009181 Train F1 Background: 0.981652 Train F1 Landslides: 0.344345 Test F1 Background: 0.979162 Test F1 Landslides: 0.240952
31 Train loss: 0.007366 Test loss: 0.008877 Train F1 Background: 0.981982 Train F1 Landslides: 0.363952 Test F1 Background: 0.977809 Test F1 Landslides: 0.128725
32 Train loss: 0.007243 Test loss: 0.008894 Train F1 Background: 0.981925 Train F1 Landslides: 0.360119 Test F1 Background: 0.979098 Test F1 Landslides: 0.232434
33 Train loss: 0.007091 Test loss: 0.008823 Train F1 Background: 0.982291 Train F1 Landslides: 0.381459 Test F1 Background: 0.979102 Test F1 Landslides: 0.230369
34 Train loss: 0.006973 Test loss: 0.008736 Train F1 Background: 0.982426 Train F1 Landslides: 0.389176 Test F1 Background: 0.978664 Test F1 Landslides: 0.196594
35 Train loss: 0.006848 Test loss: 0.008789 Train F1 Background: 0.982535 Train F1 Landslides: 0.395248 Test F1 Background: 0.979419 Test F1 Landslides: 0.255388
36 Train loss: 0.006709 Test loss: 0.008933 Train F1 Background: 0.982764 Train F1 Landslides: 0.408088 Test F1 Background: 0.979077 Test F1 Landslides: 0.230656
37 Train loss: 0.006696 Test loss: 0.009755 Train F1 Background: 0.982784 Train F1 Landslides: 0.409097 Test F1 Background: 0.979559 Test F1 Landslides: 0.279115
38 Train loss: 0.006615 Test loss: 0.009255 Train F1 Background: 0.982876 Train F1 Landslides: 0.414294 Test F1 Background: 0.979357 Test F1 Landslides: 0.254857
39 Train loss: 0.006568 Test loss: 0.008889 Train F1 Background: 0.982972 Train F1 Landslides: 0.419826 Test F1 Background: 0.979324 Test F1 Landslides: 0.247842
40 Train loss: 0.006542 Test loss: 0.009532 Train F1 Background: 0.983091 Train F1 Landslides: 0.426122 Test F1 Background: 0.980294 Test F1 Landslides: 0.323612
41 Train loss: 0.006413 Test loss: 0.008783 Train F1 Background: 0.983255 Train F1 Landslides: 0.435022 Test F1 Background: 0.978423 Test F1 Landslides: 0.177283
42 Train loss: 0.006409 Test loss: 0.009174 Train F1 Background: 0.983184 Train F1 Landslides: 0.431222 Test F1 Background: 0.979421 Test F1 Landslides: 0.256886
43 Train loss: 0.006266 Test loss: 0.008993 Train F1 Background: 0.983474 Train F1 Landslides: 0.446685 Test F1 Background: 0.979428 Test F1 Landslides: 0.253599
44 Train loss: 0.006147 Test loss: 0.008936 Train F1 Background: 0.983586 Train F1 Landslides: 0.452428 Test F1 Background: 0.978842 Test F1 Landslides: 0.212012
45 Train loss: 0.00607 Test loss: 0.008803 Train F1 Background: 0.983718 Train F1 Landslides: 0.45925 Test F1 Background: 0.978896 Test F1 Landslides: 0.213492
46 Train loss: 0.006021 Test loss: 0.009111 Train F1 Background: 0.983771 Train F1 Landslides: 0.46206 Test F1 Background: 0.979455 Test F1 Landslides: 0.260948
47 Train loss: 0.005964 Test loss: 0.009107 Train F1 Background: 0.983881 Train F1 Landslides: 0.467702 Test F1 Background: 0.979581 Test F1 Landslides: 0.268886
48 Train loss: 0.005859 Test loss: 0.008983 Train F1 Background: 0.984002 Train F1 Landslides: 0.473897 Test F1 Background: 0.979181 Test F1 Landslides: 0.235167
49 Train loss: 0.005859 Test loss: 0.009127 Train F1 Background: 0.984052 Train F1 Landslides: 0.476501 Test F1 Background: 0.979546 Test F1 Landslides: 0.262703
50 Train loss: 0.005756 Test loss: 0.009167 Train F1 Background: 0.984217 Train F1 Landslides: 0.484689 Test F1 Background: 0.979755 Test F1 Landslides: 0.283176
51 Train loss: 0.005709 Test loss: 0.009129 Train F1 Background: 0.984283 Train F1 Landslides: 0.48805 Test F1 Background: 0.979238 Test F1 Landslides: 0.242318
52 Train loss: 0.005676 Test loss: 0.009447 Train F1 Background: 0.984354 Train F1 Landslides: 0.491592 Test F1 Background: 0.979892 Test F1 Landslides: 0.29367
53 Train loss: 0.005783 Test loss: 0.00908 Train F1 Background: 0.984186 Train F1 Landslides: 0.483327 Test F1 Background: 0.979331 Test F1 Landslides: 0.246257
54 Train loss: 0.005733 Test loss: 0.009175 Train F1 Background: 0.984382 Train F1 Landslides: 0.493352 Test F1 Background: 0.979497 Test F1 Landslides: 0.26636
55 Train loss: 0.005582 Test loss: 0.009251 Train F1 Background: 0.98446 Train F1 Landslides: 0.496983 Test F1 Background: 0.979655 Test F1 Landslides: 0.271676
56 Train loss: 0.005547 Test loss: 0.008989 Train F1 Background: 0.984545 Train F1 Landslides: 0.501075 Test F1 Background: 0.979662 Test F1 Landslides: 0.272703
57 Train loss: 0.005525 Test loss: 0.009235 Train F1 Background: 0.984645 Train F1 Landslides: 0.506022 Test F1 Background: 0.979702 Test F1 Landslides: 0.275406
58 Train loss: 0.00561 Test loss: 0.009323 Train F1 Background: 0.984573 Train F1 Landslides: 0.50265 Test F1 Background: 0.979009 Test F1 Landslides: 0.228623
59 Train loss: 0.005531 Test loss: 0.009085 Train F1 Background: 0.98453 Train F1 Landslides: 0.500426 Test F1 Background: 0.979597 Test F1 Landslides: 0.266651
Validation Loss:  0.008943 Val F1 Background:  0.982734 Val F1 Landslides:  0.299182

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▄▁▄▄▄▅▄▄▅▆▅▆▅▅▆▅▆▇▆▆▇▆▇▇▇▇▇█▇▇▇▇▇▇▇█▇▇▇▇
Test F1 Landslides	▁▁▁▁▁▃▁▁▂▄▃▄▂▂▅▃▅▅▄▃▆▄▆▅▆▇▆█▇▆▆▇▆▇▆▇▇▇▇▇
Test loss	█▄▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇████████████████████
Train F1 Landslides	▃▁▁▁▁▁▂▂▂▂▂▃▃▄▄▄▅▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇████████
Train loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.9796
Test F1 Landslides	0.26665
Test loss	0.00909
Train F1 Background	0.98453
Train F1 Landslides	0.50043
Train loss	0.00553
Val F1 Background	0.98273
Val F1 Landslides	0.29918
Val Loss	0.00894

View run crisp-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/7isg352q
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_185058-7isg352q/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Flip FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize Flip FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_flip_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "flip")

    torch.save(model.state_dict(), "weights/model_regularize_flip_fcn.pth")

wandb.agent(sweep_regularize_flip_fcn, function=main)
wandb.finish()

Create sweep with ID: lhdw2jvn
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/lhdw2jvn

wandb: Agent Starting Run: iqzb7fjc with config:
wandb: 	batchsize: 64
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_164717-iqzb7fjc

Syncing run wise-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/lhdw2jvn

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/lhdw2jvn

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/iqzb7fjc

0 Train loss: 0.25729 Test loss: 0.055482 Train F1 Background: 0.938109 Train F1 Landslides: 0.050259 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.043559 Test loss: 0.028375 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.02401 Test loss: 0.019789 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.01837 Test loss: 0.01609 Train F1 Background: 0.976997 Train F1 Landslides: 0.00073 Test F1 Background: 0.976328 Test F1 Landslides: 0.000424
4 Train loss: 0.015654 Test loss: 0.014137 Train F1 Background: 0.976997 Train F1 Landslides: 0.000736 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.014043 Test loss: 0.012801 Train F1 Background: 0.977041 Train F1 Landslides: 0.004691 Test F1 Background: 0.976431 Test F1 Landslides: 0.010872
6 Train loss: 0.012989 Test loss: 0.011947 Train F1 Background: 0.977062 Train F1 Landslides: 0.006737 Test F1 Background: 0.976324 Test F1 Landslides: 0.001007
7 Train loss: 0.012082 Test loss: 0.011161 Train F1 Background: 0.977177 Train F1 Landslides: 0.016969 Test F1 Background: 0.976361 Test F1 Landslides: 0.004746
8 Train loss: 0.011407 Test loss: 0.010612 Train F1 Background: 0.977265 Train F1 Landslides: 0.02499 Test F1 Background: 0.976338 Test F1 Landslides: 0.00229
9 Train loss: 0.010951 Test loss: 0.010445 Train F1 Background: 0.977304 Train F1 Landslides: 0.02866 Test F1 Background: 0.976484 Test F1 Landslides: 0.014853
10 Train loss: 0.010459 Test loss: 0.010046 Train F1 Background: 0.9773 Train F1 Landslides: 0.027798 Test F1 Background: 0.976816 Test F1 Landslides: 0.047142
11 Train loss: 0.010036 Test loss: 0.009678 Train F1 Background: 0.97762 Train F1 Landslides: 0.055845 Test F1 Background: 0.976772 Test F1 Landslides: 0.040498
12 Train loss: 0.009857 Test loss: 0.009708 Train F1 Background: 0.977875 Train F1 Landslides: 0.077206 Test F1 Background: 0.977038 Test F1 Landslides: 0.065973
13 Train loss: 0.009511 Test loss: 0.009333 Train F1 Background: 0.978131 Train F1 Landslides: 0.098187 Test F1 Background: 0.976806 Test F1 Landslides: 0.043986
14 Train loss: 0.009318 Test loss: 0.009532 Train F1 Background: 0.978446 Train F1 Landslides: 0.124098 Test F1 Background: 0.976361 Test F1 Landslides: 0.003455
15 Train loss: 0.009265 Test loss: 0.011297 Train F1 Background: 0.97832 Train F1 Landslides: 0.113737 Test F1 Background: 0.978761 Test F1 Landslides: 0.239877
16 Train loss: 0.009094 Test loss: 0.009008 Train F1 Background: 0.978501 Train F1 Landslides: 0.127724 Test F1 Background: 0.976556 Test F1 Landslides: 0.020521
17 Train loss: 0.008879 Test loss: 0.00935 Train F1 Background: 0.978928 Train F1 Landslides: 0.161468 Test F1 Background: 0.976567 Test F1 Landslides: 0.022264
18 Train loss: 0.008835 Test loss: 0.009035 Train F1 Background: 0.978697 Train F1 Landslides: 0.143505 Test F1 Background: 0.977788 Test F1 Landslides: 0.130731
19 Train loss: 0.008571 Test loss: 0.008779 Train F1 Background: 0.979131 Train F1 Landslides: 0.175256 Test F1 Background: 0.977198 Test F1 Landslides: 0.081024
20 Train loss: 0.008395 Test loss: 0.008813 Train F1 Background: 0.97973 Train F1 Landslides: 0.219496 Test F1 Background: 0.976857 Test F1 Landslides: 0.046889
21 Train loss: 0.008147 Test loss: 0.008918 Train F1 Background: 0.980017 Train F1 Landslides: 0.239309 Test F1 Background: 0.976803 Test F1 Landslides: 0.043063
22 Train loss: 0.008026 Test loss: 0.008557 Train F1 Background: 0.980255 Train F1 Landslides: 0.254858 Test F1 Background: 0.978039 Test F1 Landslides: 0.147966
23 Train loss: 0.007887 Test loss: 0.008622 Train F1 Background: 0.980664 Train F1 Landslides: 0.28262 Test F1 Background: 0.97744 Test F1 Landslides: 0.097926
24 Train loss: 0.007886 Test loss: 0.00892 Train F1 Background: 0.980703 Train F1 Landslides: 0.284953 Test F1 Background: 0.976884 Test F1 Landslides: 0.04917
25 Train loss: 0.007762 Test loss: 0.008647 Train F1 Background: 0.980741 Train F1 Landslides: 0.287437 Test F1 Background: 0.978573 Test F1 Landslides: 0.192982
26 Train loss: 0.007709 Test loss: 0.00864 Train F1 Background: 0.980918 Train F1 Landslides: 0.299081 Test F1 Background: 0.977854 Test F1 Landslides: 0.134937
27 Train loss: 0.007593 Test loss: 0.008977 Train F1 Background: 0.981135 Train F1 Landslides: 0.312843 Test F1 Background: 0.978846 Test F1 Landslides: 0.217812
28 Train loss: 0.007505 Test loss: 0.00951 Train F1 Background: 0.981176 Train F1 Landslides: 0.315103 Test F1 Background: 0.978484 Test F1 Landslides: 0.206372
29 Train loss: 0.007904 Test loss: 0.008771 Train F1 Background: 0.980657 Train F1 Landslides: 0.283201 Test F1 Background: 0.977701 Test F1 Landslides: 0.123543
30 Train loss: 0.00828 Test loss: 0.008662 Train F1 Background: 0.979686 Train F1 Landslides: 0.217384 Test F1 Background: 0.977793 Test F1 Landslides: 0.130305
31 Train loss: 0.007919 Test loss: 0.009023 Train F1 Background: 0.979969 Train F1 Landslides: 0.236476 Test F1 Background: 0.97885 Test F1 Landslides: 0.222603
32 Train loss: 0.007672 Test loss: 0.008602 Train F1 Background: 0.980701 Train F1 Landslides: 0.285492 Test F1 Background: 0.977999 Test F1 Landslides: 0.147052
33 Train loss: 0.007421 Test loss: 0.008841 Train F1 Background: 0.981266 Train F1 Landslides: 0.320881 Test F1 Background: 0.977573 Test F1 Landslides: 0.110641
34 Train loss: 0.007253 Test loss: 0.008582 Train F1 Background: 0.981565 Train F1 Landslides: 0.339153 Test F1 Background: 0.97854 Test F1 Landslides: 0.191923
35 Train loss: 0.007051 Test loss: 0.008809 Train F1 Background: 0.981959 Train F1 Landslides: 0.362793 Test F1 Background: 0.978932 Test F1 Landslides: 0.221855
36 Train loss: 0.006975 Test loss: 0.00853 Train F1 Background: 0.982173 Train F1 Landslides: 0.374953 Test F1 Background: 0.97867 Test F1 Landslides: 0.196184
37 Train loss: 0.006846 Test loss: 0.008926 Train F1 Background: 0.982404 Train F1 Landslides: 0.388825 Test F1 Background: 0.979377 Test F1 Landslides: 0.255545
38 Train loss: 0.006661 Test loss: 0.008782 Train F1 Background: 0.982662 Train F1 Landslides: 0.402597 Test F1 Background: 0.979453 Test F1 Landslides: 0.257069
39 Train loss: 0.006574 Test loss: 0.008946 Train F1 Background: 0.982933 Train F1 Landslides: 0.417796 Test F1 Background: 0.979452 Test F1 Landslides: 0.263037
40 Train loss: 0.006602 Test loss: 0.008815 Train F1 Background: 0.982859 Train F1 Landslides: 0.413864 Test F1 Background: 0.97922 Test F1 Landslides: 0.240637
41 Train loss: 0.006473 Test loss: 0.01008 Train F1 Background: 0.983055 Train F1 Landslides: 0.424475 Test F1 Background: 0.98057 Test F1 Landslides: 0.351275
42 Train loss: 0.006468 Test loss: 0.009318 Train F1 Background: 0.983187 Train F1 Landslides: 0.431799 Test F1 Background: 0.979992 Test F1 Landslides: 0.303259
43 Train loss: 0.006293 Test loss: 0.008892 Train F1 Background: 0.983335 Train F1 Landslides: 0.439414 Test F1 Background: 0.97945 Test F1 Landslides: 0.258478
44 Train loss: 0.006192 Test loss: 0.008983 Train F1 Background: 0.983543 Train F1 Landslides: 0.450423 Test F1 Background: 0.979702 Test F1 Landslides: 0.278832
45 Train loss: 0.006139 Test loss: 0.008717 Train F1 Background: 0.983682 Train F1 Landslides: 0.457796 Test F1 Background: 0.978673 Test F1 Landslides: 0.198444
46 Train loss: 0.006134 Test loss: 0.008942 Train F1 Background: 0.983714 Train F1 Landslides: 0.459525 Test F1 Background: 0.979625 Test F1 Landslides: 0.269329
47 Train loss: 0.00602 Test loss: 0.009506 Train F1 Background: 0.983732 Train F1 Landslides: 0.460163 Test F1 Background: 0.980271 Test F1 Landslides: 0.321222
48 Train loss: 0.006007 Test loss: 0.010174 Train F1 Background: 0.983924 Train F1 Landslides: 0.470224 Test F1 Background: 0.980569 Test F1 Landslides: 0.349426
49 Train loss: 0.005931 Test loss: 0.009122 Train F1 Background: 0.98399 Train F1 Landslides: 0.473582 Test F1 Background: 0.979335 Test F1 Landslides: 0.252884
50 Train loss: 0.005889 Test loss: 0.009075 Train F1 Background: 0.984036 Train F1 Landslides: 0.475994 Test F1 Background: 0.979601 Test F1 Landslides: 0.268421
51 Train loss: 0.005846 Test loss: 0.009395 Train F1 Background: 0.984096 Train F1 Landslides: 0.47897 Test F1 Background: 0.979954 Test F1 Landslides: 0.300894
52 Train loss: 0.005852 Test loss: 0.009732 Train F1 Background: 0.984181 Train F1 Landslides: 0.483244 Test F1 Background: 0.979896 Test F1 Landslides: 0.296503
53 Train loss: 0.005774 Test loss: 0.00909 Train F1 Background: 0.984288 Train F1 Landslides: 0.488746 Test F1 Background: 0.979707 Test F1 Landslides: 0.273269
54 Train loss: 0.005739 Test loss: 0.009513 Train F1 Background: 0.984282 Train F1 Landslides: 0.488365 Test F1 Background: 0.980273 Test F1 Landslides: 0.318971
55 Train loss: 0.005688 Test loss: 0.00902 Train F1 Background: 0.984459 Train F1 Landslides: 0.497378 Test F1 Background: 0.97943 Test F1 Landslides: 0.257443
56 Train loss: 0.00562 Test loss: 0.008829 Train F1 Background: 0.98449 Train F1 Landslides: 0.498531 Test F1 Background: 0.979115 Test F1 Landslides: 0.231829
57 Train loss: 0.005588 Test loss: 0.009388 Train F1 Background: 0.984564 Train F1 Landslides: 0.502284 Test F1 Background: 0.980002 Test F1 Landslides: 0.301793
58 Train loss: 0.005546 Test loss: 0.009133 Train F1 Background: 0.984643 Train F1 Landslides: 0.506132 Test F1 Background: 0.979571 Test F1 Landslides: 0.267035
59 Train loss: 0.005511 Test loss: 0.011158 Train F1 Background: 0.98478 Train F1 Landslides: 0.512794 Test F1 Background: 0.981131 Test F1 Landslides: 0.392302
60 Train loss: 0.005524 Test loss: 0.009166 Train F1 Background: 0.98476 Train F1 Landslides: 0.511945 Test F1 Background: 0.979715 Test F1 Landslides: 0.275544
61 Train loss: 0.005514 Test loss: 0.00937 Train F1 Background: 0.984832 Train F1 Landslides: 0.51532 Test F1 Background: 0.979847 Test F1 Landslides: 0.290045
62 Train loss: 0.005489 Test loss: 0.009283 Train F1 Background: 0.984808 Train F1 Landslides: 0.514201 Test F1 Background: 0.97955 Test F1 Landslides: 0.266631
63 Train loss: 0.005472 Test loss: 0.008794 Train F1 Background: 0.98492 Train F1 Landslides: 0.519633 Test F1 Background: 0.97871 Test F1 Landslides: 0.201493
64 Train loss: 0.005583 Test loss: 0.010232 Train F1 Background: 0.984768 Train F1 Landslides: 0.512558 Test F1 Background: 0.980351 Test F1 Landslides: 0.334367
65 Train loss: 0.005582 Test loss: 0.009193 Train F1 Background: 0.984566 Train F1 Landslides: 0.502491 Test F1 Background: 0.979796 Test F1 Landslides: 0.281986
66 Train loss: 0.00551 Test loss: 0.009804 Train F1 Background: 0.984758 Train F1 Landslides: 0.511979 Test F1 Background: 0.980583 Test F1 Landslides: 0.340882
67 Train loss: 0.005458 Test loss: 0.009272 Train F1 Background: 0.984931 Train F1 Landslides: 0.520325 Test F1 Background: 0.979804 Test F1 Landslides: 0.283148
68 Train loss: 0.00539 Test loss: 0.009277 Train F1 Background: 0.984872 Train F1 Landslides: 0.517359 Test F1 Background: 0.979628 Test F1 Landslides: 0.270952
69 Train loss: 0.005366 Test loss: 0.009325 Train F1 Background: 0.985034 Train F1 Landslides: 0.525088 Test F1 Background: 0.979674 Test F1 Landslides: 0.27229
70 Train loss: 0.005343 Test loss: 0.009474 Train F1 Background: 0.985094 Train F1 Landslides: 0.527951 Test F1 Background: 0.979892 Test F1 Landslides: 0.291936
71 Train loss: 0.005288 Test loss: 0.009182 Train F1 Background: 0.985172 Train F1 Landslides: 0.531585 Test F1 Background: 0.979648 Test F1 Landslides: 0.270473
72 Train loss: 0.005252 Test loss: 0.009405 Train F1 Background: 0.985256 Train F1 Landslides: 0.535463 Test F1 Background: 0.979468 Test F1 Landslides: 0.25995
73 Train loss: 0.005235 Test loss: 0.010917 Train F1 Background: 0.985234 Train F1 Landslides: 0.534352 Test F1 Background: 0.981287 Test F1 Landslides: 0.395217
74 Train loss: 0.005281 Test loss: 0.009804 Train F1 Background: 0.985326 Train F1 Landslides: 0.538794 Test F1 Background: 0.98018 Test F1 Landslides: 0.315174
75 Train loss: 0.005227 Test loss: 0.009145 Train F1 Background: 0.985389 Train F1 Landslides: 0.541805 Test F1 Background: 0.978828 Test F1 Landslides: 0.209498
76 Train loss: 0.005193 Test loss: 0.010114 Train F1 Background: 0.985417 Train F1 Landslides: 0.543104 Test F1 Background: 0.980371 Test F1 Landslides: 0.329404
77 Train loss: 0.005196 Test loss: 0.01042 Train F1 Background: 0.985303 Train F1 Landslides: 0.537585 Test F1 Background: 0.980958 Test F1 Landslides: 0.368167
78 Train loss: 0.005198 Test loss: 0.010081 Train F1 Background: 0.985429 Train F1 Landslides: 0.543547 Test F1 Background: 0.980054 Test F1 Landslides: 0.313011
79 Train loss: 0.005134 Test loss: 0.009703 Train F1 Background: 0.985512 Train F1 Landslides: 0.547354 Test F1 Background: 0.979586 Test F1 Landslides: 0.270038
Validation Loss:  0.008992 Val F1 Background:  0.982784 Val F1 Landslides:  0.301968

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▁▁▁▂▂▁▁▃▂▄▂▄▅▃▄▅▅▆▆▇▇▆█▆▇▇▆▆▇▆██▆▇▆▇█▆
Test F1 Landslides	▁▁▁▁▁▂▂▁▁▄▂▄▂▄▅▄▄▅▅▆▆▇▇▆█▆▇▇▆▆▇▆██▆▇▆▇█▆
Test loss	█▃▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇██████████████████████
Train F1 Landslides	▂▁▁▁▁▁▂▃▃▃▄▄▅▅▅▄▅▅▆▆▆▇▇▇▇▇▇▇▇▇██████████
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97959
Test F1 Landslides	0.27004
Test loss	0.0097
Train F1 Background	0.98551
Train F1 Landslides	0.54735
Train loss	0.00513
Val F1 Background	0.98278
Val F1 Landslides	0.30197
Val Loss	0.00899

View run wise-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/iqzb7fjc
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_164717-iqzb7fjc/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Flip Deeplabv3

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize Flip Deeplabv3",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [60]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_flip = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "flip")

    torch.save(model.state_dict(), "weights/model_regularize_flip_deeplab.pth")

wandb.agent(sweep_regularize_flip, function=main)
wandb.finish()

Create sweep with ID: tk8ltgu1
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/tk8ltgu1

wandb: Agent Starting Run: odqzy5mi with config:
wandb: 	batchsize: 64
wandb: 	epochs: 60
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_170405-odqzy5mi

Syncing run curious-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/tk8ltgu1

View project at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/tk8ltgu1

View run at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/odqzy5mi

0 Train loss: 0.24403 Test loss: 0.171052 Train F1 Background: 0.973594 Train F1 Landslides: 0.027297 Test F1 Background: 0.955172 Test F1 Landslides: 0.015147
1 Train loss: 0.065091 Test loss: 0.048535 Train F1 Background: 0.976942 Train F1 Landslides: 0.0 Test F1 Background: 0.974574 Test F1 Landslides: 0.000964
2 Train loss: 0.035093 Test loss: 0.028472 Train F1 Background: 0.976981 Train F1 Landslides: 0.0 Test F1 Background: 0.976234 Test F1 Landslides: 0.0
3 Train loss: 0.024767 Test loss: 0.021444 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976321 Test F1 Landslides: 0.0
4 Train loss: 0.020033 Test loss: 0.017527 Train F1 Background: 0.976992 Train F1 Landslides: 0.000304 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.01705 Test loss: 0.01455 Train F1 Background: 0.976992 Train F1 Landslides: 0.000298 Test F1 Background: 0.976371 Test F1 Landslides: 0.004405
6 Train loss: 0.015254 Test loss: 0.013472 Train F1 Background: 0.977033 Train F1 Landslides: 0.004125 Test F1 Background: 0.976323 Test F1 Landslides: 1.3e-05
7 Train loss: 0.013854 Test loss: 0.012252 Train F1 Background: 0.977006 Train F1 Landslides: 0.001607 Test F1 Background: 0.976326 Test F1 Landslides: 0.000225
8 Train loss: 0.012923 Test loss: 0.012166 Train F1 Background: 0.977098 Train F1 Landslides: 0.010032 Test F1 Background: 0.976825 Test F1 Landslides: 0.04558
9 Train loss: 0.01227 Test loss: 0.011349 Train F1 Background: 0.977181 Train F1 Landslides: 0.017687 Test F1 Background: 0.976324 Test F1 Landslides: 2.7e-05
10 Train loss: 0.011675 Test loss: 0.010552 Train F1 Background: 0.977213 Train F1 Landslides: 0.020276 Test F1 Background: 0.976406 Test F1 Landslides: 0.007555
11 Train loss: 0.011205 Test loss: 0.010728 Train F1 Background: 0.977271 Train F1 Landslides: 0.025348 Test F1 Background: 0.977751 Test F1 Landslides: 0.12552
12 Train loss: 0.010848 Test loss: 0.009949 Train F1 Background: 0.977368 Train F1 Landslides: 0.034355 Test F1 Background: 0.9766 Test F1 Landslides: 0.024701
13 Train loss: 0.010632 Test loss: 0.010347 Train F1 Background: 0.977411 Train F1 Landslides: 0.038007 Test F1 Background: 0.976798 Test F1 Landslides: 0.050311
14 Train loss: 0.010451 Test loss: 0.009891 Train F1 Background: 0.977419 Train F1 Landslides: 0.038924 Test F1 Background: 0.977026 Test F1 Landslides: 0.069678
15 Train loss: 0.010174 Test loss: 0.009494 Train F1 Background: 0.977612 Train F1 Landslides: 0.055566 Test F1 Background: 0.976589 Test F1 Landslides: 0.023898
16 Train loss: 0.009703 Test loss: 0.009252 Train F1 Background: 0.977819 Train F1 Landslides: 0.072667 Test F1 Background: 0.977279 Test F1 Landslides: 0.087061
17 Train loss: 0.009566 Test loss: 0.00978 Train F1 Background: 0.978078 Train F1 Landslides: 0.094828 Test F1 Background: 0.976476 Test F1 Landslides: 0.014134
18 Train loss: 0.009428 Test loss: 0.0094 Train F1 Background: 0.978304 Train F1 Landslides: 0.112981 Test F1 Background: 0.977267 Test F1 Landslides: 0.094149
19 Train loss: 0.009356 Test loss: 0.009536 Train F1 Background: 0.978136 Train F1 Landslides: 0.099323 Test F1 Background: 0.97792 Test F1 Landslides: 0.151761
20 Train loss: 0.00922 Test loss: 0.009541 Train F1 Background: 0.978507 Train F1 Landslides: 0.128961 Test F1 Background: 0.976374 Test F1 Landslides: 0.00434
21 Train loss: 0.009144 Test loss: 0.008732 Train F1 Background: 0.978424 Train F1 Landslides: 0.122419 Test F1 Background: 0.977669 Test F1 Landslides: 0.115704
22 Train loss: 0.008827 Test loss: 0.008514 Train F1 Background: 0.978824 Train F1 Landslides: 0.153602 Test F1 Background: 0.977326 Test F1 Landslides: 0.085681
23 Train loss: 0.008784 Test loss: 0.00866 Train F1 Background: 0.978834 Train F1 Landslides: 0.154681 Test F1 Background: 0.977008 Test F1 Landslides: 0.059037
24 Train loss: 0.008908 Test loss: 0.009395 Train F1 Background: 0.978717 Train F1 Landslides: 0.145728 Test F1 Background: 0.976532 Test F1 Landslides: 0.018648
25 Train loss: 0.008975 Test loss: 0.010614 Train F1 Background: 0.978335 Train F1 Landslides: 0.115144 Test F1 Background: 0.977078 Test F1 Landslides: 0.102605
26 Train loss: 0.008646 Test loss: 0.008345 Train F1 Background: 0.979077 Train F1 Landslides: 0.172882 Test F1 Background: 0.977726 Test F1 Landslides: 0.119359
27 Train loss: 0.008495 Test loss: 0.008364 Train F1 Background: 0.979093 Train F1 Landslides: 0.173567 Test F1 Background: 0.977457 Test F1 Landslides: 0.096702
28 Train loss: 0.008459 Test loss: 0.009172 Train F1 Background: 0.979581 Train F1 Landslides: 0.209753 Test F1 Background: 0.977088 Test F1 Landslides: 0.070966
29 Train loss: 0.00829 Test loss: 0.00845 Train F1 Background: 0.979536 Train F1 Landslides: 0.206056 Test F1 Background: 0.977964 Test F1 Landslides: 0.138942
30 Train loss: 0.008319 Test loss: 0.109584 Train F1 Background: 0.979875 Train F1 Landslides: 0.232771 Test F1 Background: 0.976109 Test F1 Landslides: 0.126162
31 Train loss: 0.009677 Test loss: 0.009065 Train F1 Background: 0.977419 Train F1 Landslides: 0.039721 Test F1 Background: 0.977048 Test F1 Landslides: 0.063683
32 Train loss: 0.008968 Test loss: 0.009515 Train F1 Background: 0.977814 Train F1 Landslides: 0.072462 Test F1 Background: 0.976678 Test F1 Landslides: 0.03088
33 Train loss: 0.008534 Test loss: 0.009096 Train F1 Background: 0.978571 Train F1 Landslides: 0.133543 Test F1 Background: 0.976736 Test F1 Landslides: 0.04353
34 Train loss: 0.008331 Test loss: 0.008193 Train F1 Background: 0.978597 Train F1 Landslides: 0.135837 Test F1 Background: 0.977189 Test F1 Landslides: 0.074231
35 Train loss: 0.008095 Test loss: 0.008289 Train F1 Background: 0.979599 Train F1 Landslides: 0.210389 Test F1 Background: 0.977398 Test F1 Landslides: 0.093845
36 Train loss: 0.008311 Test loss: 0.008506 Train F1 Background: 0.979688 Train F1 Landslides: 0.218719 Test F1 Background: 0.977077 Test F1 Landslides: 0.064658
37 Train loss: 0.008753 Test loss: 0.008844 Train F1 Background: 0.978132 Train F1 Landslides: 0.09864 Test F1 Background: 0.976911 Test F1 Landslides: 0.050772
38 Train loss: 0.008165 Test loss: 0.009674 Train F1 Background: 0.979318 Train F1 Landslides: 0.189946 Test F1 Background: 0.976921 Test F1 Landslides: 0.07435
39 Train loss: 0.007944 Test loss: 0.008322 Train F1 Background: 0.979684 Train F1 Landslides: 0.216173 Test F1 Background: 0.978206 Test F1 Landslides: 0.159176
40 Train loss: 0.007816 Test loss: 0.017209 Train F1 Background: 0.980231 Train F1 Landslides: 0.253777 Test F1 Background: 0.978545 Test F1 Landslides: 0.183577
41 Train loss: 0.007809 Test loss: 0.008279 Train F1 Background: 0.980291 Train F1 Landslides: 0.258623 Test F1 Background: 0.978061 Test F1 Landslides: 0.144986
42 Train loss: 0.007625 Test loss: 0.008198 Train F1 Background: 0.980512 Train F1 Landslides: 0.272648 Test F1 Background: 0.978086 Test F1 Landslides: 0.15158
43 Train loss: 0.007579 Test loss: 0.008293 Train F1 Background: 0.980716 Train F1 Landslides: 0.286216 Test F1 Background: 0.979077 Test F1 Landslides: 0.22783
44 Train loss: 0.007497 Test loss: 0.008709 Train F1 Background: 0.980866 Train F1 Landslides: 0.295957 Test F1 Background: 0.977868 Test F1 Landslides: 0.131905
45 Train loss: 0.007342 Test loss: 0.008269 Train F1 Background: 0.98116 Train F1 Landslides: 0.314201 Test F1 Background: 0.978898 Test F1 Landslides: 0.214934
46 Train loss: 0.007292 Test loss: 0.008465 Train F1 Background: 0.981419 Train F1 Landslides: 0.33103 Test F1 Background: 0.97746 Test F1 Landslides: 0.09716
47 Train loss: 0.007652 Test loss: 0.008814 Train F1 Background: 0.980605 Train F1 Landslides: 0.278854 Test F1 Background: 0.979665 Test F1 Landslides: 0.277261
48 Train loss: 0.007405 Test loss: 0.008092 Train F1 Background: 0.981045 Train F1 Landslides: 0.306982 Test F1 Background: 0.978784 Test F1 Landslides: 0.202805
49 Train loss: 0.007205 Test loss: 0.008141 Train F1 Background: 0.981469 Train F1 Landslides: 0.333502 Test F1 Background: 0.978426 Test F1 Landslides: 0.177242
50 Train loss: 0.007023 Test loss: 0.008166 Train F1 Background: 0.981581 Train F1 Landslides: 0.339738 Test F1 Background: 0.979198 Test F1 Landslides: 0.235642
51 Train loss: 0.006925 Test loss: 0.008404 Train F1 Background: 0.981933 Train F1 Landslides: 0.360721 Test F1 Background: 0.979297 Test F1 Landslides: 0.24415
52 Train loss: 0.006814 Test loss: 0.008283 Train F1 Background: 0.982118 Train F1 Landslides: 0.371702 Test F1 Background: 0.978993 Test F1 Landslides: 0.221096
53 Train loss: 0.006779 Test loss: 0.009086 Train F1 Background: 0.98219 Train F1 Landslides: 0.375983 Test F1 Background: 0.980259 Test F1 Landslides: 0.318839
54 Train loss: 0.006742 Test loss: 0.008212 Train F1 Background: 0.982338 Train F1 Landslides: 0.384537 Test F1 Background: 0.978576 Test F1 Landslides: 0.187675
55 Train loss: 0.006687 Test loss: 0.008367 Train F1 Background: 0.982349 Train F1 Landslides: 0.385093 Test F1 Background: 0.979111 Test F1 Landslides: 0.229233
56 Train loss: 0.00676 Test loss: 0.008698 Train F1 Background: 0.982427 Train F1 Landslides: 0.389933 Test F1 Background: 0.979295 Test F1 Landslides: 0.248258
57 Train loss: 0.006678 Test loss: 0.008486 Train F1 Background: 0.982366 Train F1 Landslides: 0.386279 Test F1 Background: 0.979603 Test F1 Landslides: 0.265012
58 Train loss: 0.006546 Test loss: 0.008382 Train F1 Background: 0.982674 Train F1 Landslides: 0.403517 Test F1 Background: 0.978966 Test F1 Landslides: 0.217715
59 Train loss: 0.006472 Test loss: 0.008629 Train F1 Background: 0.982717 Train F1 Landslides: 0.405801 Test F1 Background: 0.979552 Test F1 Landslides: 0.2641
Validation Loss:  0.008161 Val F1 Background:  0.982731 Val F1 Landslides:  0.295069

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇█▇▇▇▇▇▇▇▇▇▇▇▇█████▇████████
Test F1 Landslides	▁▁▁▁▁▁▁▁▂▂▂▃▃▅▄▃▁▄▄▃▄▃▂▃▃▂▅▆▅▇▇▄▆▆▇▇▆▇██
Test loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▅▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▄▄▄▄▄▄▄▄▄▄▄▅▄▅▅▅▅▅▆▆▄▅▅▆▄▆▆▆▆▇▇▇▇▇█████
Train F1 Landslides	▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▃▄▅▅▂▃▃▅▃▅▅▆▆▆▇▆▇▇▇████
Train loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97955
Test F1 Landslides	0.2641
Test loss	0.00863
Train F1 Background	0.98272
Train F1 Landslides	0.4058
Train loss	0.00647
Val F1 Background	0.98273
Val F1 Landslides	0.29507
Val Loss	0.00816

View run curious-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/odqzy5mi
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_170405-odqzy5mi/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Color Jitter penalty FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize ColorJitter FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_colorjitter_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "color_jitter")

    torch.save(model.state_dict(), "weights/model_regularize_color_jitter_fcn.pth")

wandb.agent(sweep_regularize_colorjitter_fcn, function=main)
wandb.finish()

Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

Create sweep with ID: t5dl3709
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/t5dl3709

wandb: Agent Starting Run: 8wogd44m with config:
wandb: 	batchsize: 64
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
wandb: Currently logged in as: patschue. Use `wandb login --relogin` to force relogin

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231017_164912-8wogd44m

Syncing run woven-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/t5dl3709

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/t5dl3709

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/8wogd44m

0 Train loss: 0.320648 Test loss: 0.05781 Train F1 Background: 0.911953 Train F1 Landslides: 0.064364 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.054627 Test loss: 0.031616 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.027767 Test loss: 0.021893 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.020727 Test loss: 0.017818 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.017561 Test loss: 0.015556 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.015522 Test loss: 0.014173 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
6 Train loss: 0.014184 Test loss: 0.013092 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
7 Train loss: 0.013252 Test loss: 0.012079 Train F1 Background: 0.97699 Train F1 Landslides: 0.00012 Test F1 Background: 0.976325 Test F1 Landslides: 0.000159
8 Train loss: 0.012464 Test loss: 0.012233 Train F1 Background: 0.977029 Train F1 Landslides: 0.003624 Test F1 Background: 0.976515 Test F1 Landslides: 0.018093
9 Train loss: 0.01185 Test loss: 0.011429 Train F1 Background: 0.977066 Train F1 Landslides: 0.007078 Test F1 Background: 0.976487 Test F1 Landslides: 0.016033
10 Train loss: 0.011452 Test loss: 0.011074 Train F1 Background: 0.97713 Train F1 Landslides: 0.013216 Test F1 Background: 0.976336 Test F1 Landslides: 0.001775
11 Train loss: 0.010991 Test loss: 0.010531 Train F1 Background: 0.977337 Train F1 Landslides: 0.031699 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
12 Train loss: 0.010691 Test loss: 0.01023 Train F1 Background: 0.977178 Train F1 Landslides: 0.01696 Test F1 Background: 0.976332 Test F1 Landslides: 0.001206
13 Train loss: 0.0104 Test loss: 0.009982 Train F1 Background: 0.977283 Train F1 Landslides: 0.026255 Test F1 Background: 0.976583 Test F1 Landslides: 0.027205
14 Train loss: 0.009983 Test loss: 0.009699 Train F1 Background: 0.977592 Train F1 Landslides: 0.053027 Test F1 Background: 0.976641 Test F1 Landslides: 0.031516
15 Train loss: 0.009884 Test loss: 0.009614 Train F1 Background: 0.977817 Train F1 Landslides: 0.072126 Test F1 Background: 0.976355 Test F1 Landslides: 0.003137
16 Train loss: 0.009661 Test loss: 0.00948 Train F1 Background: 0.977954 Train F1 Landslides: 0.083793 Test F1 Background: 0.976748 Test F1 Landslides: 0.042225
17 Train loss: 0.009458 Test loss: 0.009405 Train F1 Background: 0.978056 Train F1 Landslides: 0.092017 Test F1 Background: 0.976889 Test F1 Landslides: 0.050629
18 Train loss: 0.009287 Test loss: 0.009999 Train F1 Background: 0.978277 Train F1 Landslides: 0.109462 Test F1 Background: 0.977843 Test F1 Landslides: 0.145448
19 Train loss: 0.009121 Test loss: 0.009309 Train F1 Background: 0.978497 Train F1 Landslides: 0.127799 Test F1 Background: 0.976697 Test F1 Landslides: 0.034049
20 Train loss: 0.009001 Test loss: 0.009446 Train F1 Background: 0.978793 Train F1 Landslides: 0.150518 Test F1 Background: 0.976524 Test F1 Landslides: 0.017687
21 Train loss: 0.008747 Test loss: 0.009105 Train F1 Background: 0.97907 Train F1 Landslides: 0.171168 Test F1 Background: 0.977544 Test F1 Landslides: 0.109028
22 Train loss: 0.008522 Test loss: 0.009068 Train F1 Background: 0.979601 Train F1 Landslides: 0.209961 Test F1 Background: 0.976848 Test F1 Landslides: 0.046796
23 Train loss: 0.008462 Test loss: 0.009025 Train F1 Background: 0.97974 Train F1 Landslides: 0.219793 Test F1 Background: 0.977381 Test F1 Landslides: 0.091994
24 Train loss: 0.008179 Test loss: 0.009058 Train F1 Background: 0.980165 Train F1 Landslides: 0.248841 Test F1 Background: 0.977344 Test F1 Landslides: 0.092515
25 Train loss: 0.008094 Test loss: 0.009072 Train F1 Background: 0.980434 Train F1 Landslides: 0.267052 Test F1 Background: 0.97766 Test F1 Landslides: 0.120519
26 Train loss: 0.007971 Test loss: 0.009162 Train F1 Background: 0.980702 Train F1 Landslides: 0.285515 Test F1 Background: 0.97715 Test F1 Landslides: 0.074398
27 Train loss: 0.007935 Test loss: 0.010043 Train F1 Background: 0.980417 Train F1 Landslides: 0.265793 Test F1 Background: 0.978402 Test F1 Landslides: 0.195332
28 Train loss: 0.007775 Test loss: 0.00892 Train F1 Background: 0.981028 Train F1 Landslides: 0.306125 Test F1 Background: 0.978104 Test F1 Landslides: 0.153831
29 Train loss: 0.007535 Test loss: 0.009416 Train F1 Background: 0.981319 Train F1 Landslides: 0.323713 Test F1 Background: 0.976726 Test F1 Landslides: 0.036327
30 Train loss: 0.007444 Test loss: 0.009031 Train F1 Background: 0.981475 Train F1 Landslides: 0.333317 Test F1 Background: 0.977769 Test F1 Landslides: 0.12915
31 Train loss: 0.007314 Test loss: 0.009242 Train F1 Background: 0.981758 Train F1 Landslides: 0.350725 Test F1 Background: 0.977766 Test F1 Landslides: 0.126537
32 Train loss: 0.007227 Test loss: 0.009567 Train F1 Background: 0.981891 Train F1 Landslides: 0.358401 Test F1 Background: 0.97828 Test F1 Landslides: 0.176293
33 Train loss: 0.007116 Test loss: 0.009336 Train F1 Background: 0.982118 Train F1 Landslides: 0.371849 Test F1 Background: 0.977894 Test F1 Landslides: 0.139759
34 Train loss: 0.006995 Test loss: 0.009786 Train F1 Background: 0.982405 Train F1 Landslides: 0.388322 Test F1 Background: 0.978655 Test F1 Landslides: 0.202723
35 Train loss: 0.006938 Test loss: 0.009811 Train F1 Background: 0.982461 Train F1 Landslides: 0.391667 Test F1 Background: 0.978746 Test F1 Landslides: 0.216656
36 Train loss: 0.00675 Test loss: 0.009331 Train F1 Background: 0.982746 Train F1 Landslides: 0.407336 Test F1 Background: 0.978315 Test F1 Landslides: 0.173453
37 Train loss: 0.006654 Test loss: 0.009355 Train F1 Background: 0.982968 Train F1 Landslides: 0.419595 Test F1 Background: 0.977915 Test F1 Landslides: 0.142009
38 Train loss: 0.006567 Test loss: 0.009594 Train F1 Background: 0.983079 Train F1 Landslides: 0.425473 Test F1 Background: 0.978619 Test F1 Landslides: 0.202333
39 Train loss: 0.006483 Test loss: 0.009709 Train F1 Background: 0.983283 Train F1 Landslides: 0.436786 Test F1 Background: 0.978963 Test F1 Landslides: 0.227191
40 Train loss: 0.006448 Test loss: 0.009359 Train F1 Background: 0.98321 Train F1 Landslides: 0.432687 Test F1 Background: 0.978555 Test F1 Landslides: 0.191508
41 Train loss: 0.006286 Test loss: 0.009891 Train F1 Background: 0.983538 Train F1 Landslides: 0.450145 Test F1 Background: 0.978796 Test F1 Landslides: 0.217923
42 Train loss: 0.006252 Test loss: 0.009946 Train F1 Background: 0.983617 Train F1 Landslides: 0.454564 Test F1 Background: 0.977905 Test F1 Landslides: 0.141165
43 Train loss: 0.006336 Test loss: 0.010315 Train F1 Background: 0.983374 Train F1 Landslides: 0.441592 Test F1 Background: 0.979239 Test F1 Landslides: 0.25451
44 Train loss: 0.006152 Test loss: 0.009577 Train F1 Background: 0.983769 Train F1 Landslides: 0.462295 Test F1 Background: 0.978196 Test F1 Landslides: 0.167305
45 Train loss: 0.006027 Test loss: 0.010115 Train F1 Background: 0.98389 Train F1 Landslides: 0.468438 Test F1 Background: 0.97868 Test F1 Landslides: 0.212427
46 Train loss: 0.006015 Test loss: 0.009931 Train F1 Background: 0.983932 Train F1 Landslides: 0.470476 Test F1 Background: 0.978988 Test F1 Landslides: 0.229359
47 Train loss: 0.005971 Test loss: 0.0101 Train F1 Background: 0.984109 Train F1 Landslides: 0.47964 Test F1 Background: 0.9788 Test F1 Landslides: 0.216978
48 Train loss: 0.005874 Test loss: 0.010325 Train F1 Background: 0.984217 Train F1 Landslides: 0.484923 Test F1 Background: 0.979136 Test F1 Landslides: 0.245278
49 Train loss: 0.00575 Test loss: 0.01059 Train F1 Background: 0.984419 Train F1 Landslides: 0.495005 Test F1 Background: 0.979058 Test F1 Landslides: 0.239686
50 Train loss: 0.005706 Test loss: 0.011993 Train F1 Background: 0.98438 Train F1 Landslides: 0.492986 Test F1 Background: 0.979562 Test F1 Landslides: 0.290584
51 Train loss: 0.005703 Test loss: 0.009929 Train F1 Background: 0.984493 Train F1 Landslides: 0.498743 Test F1 Background: 0.978477 Test F1 Landslides: 0.188583
52 Train loss: 0.005659 Test loss: 0.011132 Train F1 Background: 0.984525 Train F1 Landslides: 0.500194 Test F1 Background: 0.979367 Test F1 Landslides: 0.267912
53 Train loss: 0.005538 Test loss: 0.009955 Train F1 Background: 0.984778 Train F1 Landslides: 0.512622 Test F1 Background: 0.97841 Test F1 Landslides: 0.184215
54 Train loss: 0.005567 Test loss: 0.010265 Train F1 Background: 0.984725 Train F1 Landslides: 0.509984 Test F1 Background: 0.978507 Test F1 Landslides: 0.19395
55 Train loss: 0.005488 Test loss: 0.010508 Train F1 Background: 0.984815 Train F1 Landslides: 0.514271 Test F1 Background: 0.979002 Test F1 Landslides: 0.235706
56 Train loss: 0.005492 Test loss: 0.011113 Train F1 Background: 0.984865 Train F1 Landslides: 0.516833 Test F1 Background: 0.979646 Test F1 Landslides: 0.291267
57 Train loss: 0.005434 Test loss: 0.010346 Train F1 Background: 0.984931 Train F1 Landslides: 0.51998 Test F1 Background: 0.97895 Test F1 Landslides: 0.231296
58 Train loss: 0.005356 Test loss: 0.010543 Train F1 Background: 0.985117 Train F1 Landslides: 0.528776 Test F1 Background: 0.978754 Test F1 Landslides: 0.21472
59 Train loss: 0.005472 Test loss: 0.010551 Train F1 Background: 0.984932 Train F1 Landslides: 0.520057 Test F1 Background: 0.978182 Test F1 Landslides: 0.16752
60 Train loss: 0.005457 Test loss: 0.010157 Train F1 Background: 0.984954 Train F1 Landslides: 0.521194 Test F1 Background: 0.978499 Test F1 Landslides: 0.195288
61 Train loss: 0.005382 Test loss: 0.010793 Train F1 Background: 0.985059 Train F1 Landslides: 0.526096 Test F1 Background: 0.978802 Test F1 Landslides: 0.220317
62 Train loss: 0.005288 Test loss: 0.011507 Train F1 Background: 0.985241 Train F1 Landslides: 0.534597 Test F1 Background: 0.978947 Test F1 Landslides: 0.237254
63 Train loss: 0.005234 Test loss: 0.010053 Train F1 Background: 0.985283 Train F1 Landslides: 0.536549 Test F1 Background: 0.978599 Test F1 Landslides: 0.201891
64 Train loss: 0.005204 Test loss: 0.01101 Train F1 Background: 0.985331 Train F1 Landslides: 0.538747 Test F1 Background: 0.979289 Test F1 Landslides: 0.262337
65 Train loss: 0.005174 Test loss: 0.010883 Train F1 Background: 0.985465 Train F1 Landslides: 0.544997 Test F1 Background: 0.979151 Test F1 Landslides: 0.248446
66 Train loss: 0.005159 Test loss: 0.011915 Train F1 Background: 0.985531 Train F1 Landslides: 0.547994 Test F1 Background: 0.97939 Test F1 Landslides: 0.276807
67 Train loss: 0.005091 Test loss: 0.011325 Train F1 Background: 0.985607 Train F1 Landslides: 0.551476 Test F1 Background: 0.979134 Test F1 Landslides: 0.250399
68 Train loss: 0.00507 Test loss: 0.012089 Train F1 Background: 0.98565 Train F1 Landslides: 0.553441 Test F1 Background: 0.979102 Test F1 Landslides: 0.255539
69 Train loss: 0.005079 Test loss: 0.012024 Train F1 Background: 0.9856 Train F1 Landslides: 0.551228 Test F1 Background: 0.979344 Test F1 Landslides: 0.272335
70 Train loss: 0.005034 Test loss: 0.01075 Train F1 Background: 0.985737 Train F1 Landslides: 0.557398 Test F1 Background: 0.978821 Test F1 Landslides: 0.223221
71 Train loss: 0.005021 Test loss: 0.011208 Train F1 Background: 0.985763 Train F1 Landslides: 0.558574 Test F1 Background: 0.979104 Test F1 Landslides: 0.247269
72 Train loss: 0.005008 Test loss: 0.010605 Train F1 Background: 0.985814 Train F1 Landslides: 0.560936 Test F1 Background: 0.978544 Test F1 Landslides: 0.199952
73 Train loss: 0.004982 Test loss: 0.012462 Train F1 Background: 0.985794 Train F1 Landslides: 0.559962 Test F1 Background: 0.979557 Test F1 Landslides: 0.290328
74 Train loss: 0.004986 Test loss: 0.011492 Train F1 Background: 0.985875 Train F1 Landslides: 0.563619 Test F1 Background: 0.979194 Test F1 Landslides: 0.257273
75 Train loss: 0.004986 Test loss: 0.011839 Train F1 Background: 0.985866 Train F1 Landslides: 0.563397 Test F1 Background: 0.9793 Test F1 Landslides: 0.2734
76 Train loss: 0.005009 Test loss: 0.011522 Train F1 Background: 0.98584 Train F1 Landslides: 0.562109 Test F1 Background: 0.979007 Test F1 Landslides: 0.249876
77 Train loss: 0.005014 Test loss: 0.011548 Train F1 Background: 0.985858 Train F1 Landslides: 0.563035 Test F1 Background: 0.978874 Test F1 Landslides: 0.233506
78 Train loss: 0.005001 Test loss: 0.011046 Train F1 Background: 0.985863 Train F1 Landslides: 0.563256 Test F1 Background: 0.97903 Test F1 Landslides: 0.242837
79 Train loss: 0.004955 Test loss: 0.01141 Train F1 Background: 0.985966 Train F1 Landslides: 0.567794 Test F1 Background: 0.979061 Test F1 Landslides: 0.245049
Validation Loss:  0.010252 Val F1 Background:  0.982153 Val F1 Landslides:  0.265439

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▁▁▁▁▁▂▂▄▁▂▃▃▅▄▅▆▅▆▆▄▅▇▇█▇▆█▆▆▇▇▇▇▆▆▇▇▇
Test F1 Landslides	▁▁▁▁▁▁▁▂▂▄▁▂▃▃▅▄▅▆▅▆▆▄▅▇▇█▇▆█▆▆▇▇█▇▆▆▇▇▇
Test loss	█▃▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇███████████████████████████
Train F1 Landslides	▂▁▁▁▁▁▁▂▂▂▃▄▄▅▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇█▇█████████
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97906
Test F1 Landslides	0.24505
Test loss	0.01141
Train F1 Background	0.98597
Train F1 Landslides	0.56779
Train loss	0.00495
Val F1 Background	0.98215
Val F1 Landslides	0.26544
Val Loss	0.01025

View run woven-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/8wogd44m
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231017_164912-8wogd44m/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Color Jitter penalty Deeplabv3

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Regularize ColorJitter Deeplabv3",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [60]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_regularize_colorjitter = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "color_jitter")

    torch.save(model.state_dict(), "weights/model_regularize_l2_deeplab.pth")

wandb.agent(sweep_regularize_colorjitter, function=main)
wandb.finish()

Create sweep with ID: nusthf0q
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/nusthf0q

wandb: Agent Starting Run: stleyhlz with config:
wandb: 	batchsize: 64
wandb: 	epochs: 60
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231017_174807-stleyhlz

Syncing run vague-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/nusthf0q

View project at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/nusthf0q

View run at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/stleyhlz

0 Train loss: 0.276416 Test loss: 0.071228 Train F1 Background: 0.964941 Train F1 Landslides: 0.041004 Test F1 Background: 0.97587 Test F1 Landslides: 0.0
1 Train loss: 0.071656 Test loss: 0.05443 Train F1 Background: 0.97695 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.038066 Test loss: 0.027843 Train F1 Background: 0.976987 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.026698 Test loss: 0.021487 Train F1 Background: 0.976988 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.021239 Test loss: 0.01791 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
5 Train loss: 0.018039 Test loss: 0.015815 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
6 Train loss: 0.015998 Test loss: 0.014659 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
7 Train loss: 0.01462 Test loss: 0.013345 Train F1 Background: 0.977 Train F1 Landslides: 0.001055 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
8 Train loss: 0.013663 Test loss: 0.014872 Train F1 Background: 0.977005 Train F1 Landslides: 0.001529 Test F1 Background: 0.976814 Test F1 Landslides: 0.072358
9 Train loss: 0.012863 Test loss: 0.011885 Train F1 Background: 0.977059 Train F1 Landslides: 0.006836 Test F1 Background: 0.976327 Test F1 Landslides: 0.000292
10 Train loss: 0.012292 Test loss: 0.011645 Train F1 Background: 0.977044 Train F1 Landslides: 0.005195 Test F1 Background: 0.976331 Test F1 Landslides: 0.000967
11 Train loss: 0.011915 Test loss: 0.011343 Train F1 Background: 0.977125 Train F1 Landslides: 0.012714 Test F1 Background: 0.97686 Test F1 Landslides: 0.051795
12 Train loss: 0.011561 Test loss: 0.01057 Train F1 Background: 0.977069 Train F1 Landslides: 0.007319 Test F1 Background: 0.976449 Test F1 Landslides: 0.011714
13 Train loss: 0.011026 Test loss: 0.01028 Train F1 Background: 0.977298 Train F1 Landslides: 0.028212 Test F1 Background: 0.976449 Test F1 Landslides: 0.011923
14 Train loss: 0.010665 Test loss: 0.009961 Train F1 Background: 0.977438 Train F1 Landslides: 0.040021 Test F1 Background: 0.976563 Test F1 Landslides: 0.021734
15 Train loss: 0.01048 Test loss: 0.00967 Train F1 Background: 0.97762 Train F1 Landslides: 0.055819 Test F1 Background: 0.97676 Test F1 Landslides: 0.039007
16 Train loss: 0.01028 Test loss: 0.009779 Train F1 Background: 0.977508 Train F1 Landslides: 0.046713 Test F1 Background: 0.976464 Test F1 Landslides: 0.013128
17 Train loss: 0.009936 Test loss: 0.009494 Train F1 Background: 0.977779 Train F1 Landslides: 0.06901 Test F1 Background: 0.976892 Test F1 Landslides: 0.050427
18 Train loss: 0.009763 Test loss: 0.009796 Train F1 Background: 0.978123 Train F1 Landslides: 0.098055 Test F1 Background: 0.977843 Test F1 Landslides: 0.1352
19 Train loss: 0.009808 Test loss: 0.009348 Train F1 Background: 0.978065 Train F1 Landslides: 0.093274 Test F1 Background: 0.976901 Test F1 Landslides: 0.051904
20 Train loss: 0.009513 Test loss: 0.009296 Train F1 Background: 0.978128 Train F1 Landslides: 0.098103 Test F1 Background: 0.976724 Test F1 Landslides: 0.035734
21 Train loss: 0.009233 Test loss: 0.009093 Train F1 Background: 0.9786 Train F1 Landslides: 0.135838 Test F1 Background: 0.9771 Test F1 Landslides: 0.067809
22 Train loss: 0.009089 Test loss: 0.009421 Train F1 Background: 0.978864 Train F1 Landslides: 0.156576 Test F1 Background: 0.976552 Test F1 Landslides: 0.020685
23 Train loss: 0.009346 Test loss: 0.00912 Train F1 Background: 0.978566 Train F1 Landslides: 0.133938 Test F1 Background: 0.977582 Test F1 Landslides: 0.108057
24 Train loss: 0.008932 Test loss: 0.00938 Train F1 Background: 0.978632 Train F1 Landslides: 0.138179 Test F1 Background: 0.977791 Test F1 Landslides: 0.129249
25 Train loss: 0.008755 Test loss: 0.009149 Train F1 Background: 0.979082 Train F1 Landslides: 0.172307 Test F1 Background: 0.977991 Test F1 Landslides: 0.146602
26 Train loss: 0.008599 Test loss: 0.009161 Train F1 Background: 0.97972 Train F1 Landslides: 0.219043 Test F1 Background: 0.977097 Test F1 Landslides: 0.068841
27 Train loss: 0.008435 Test loss: 0.009092 Train F1 Background: 0.979931 Train F1 Landslides: 0.233688 Test F1 Background: 0.977552 Test F1 Landslides: 0.108098
28 Train loss: 0.008493 Test loss: 0.009058 Train F1 Background: 0.979671 Train F1 Landslides: 0.214839 Test F1 Background: 0.977367 Test F1 Landslides: 0.093731
29 Train loss: 0.008189 Test loss: 0.008701 Train F1 Background: 0.980282 Train F1 Landslides: 0.257879 Test F1 Background: 0.977914 Test F1 Landslides: 0.135281
30 Train loss: 0.008066 Test loss: 0.00975 Train F1 Background: 0.980578 Train F1 Landslides: 0.277106 Test F1 Background: 0.978164 Test F1 Landslides: 0.166331
31 Train loss: 0.007972 Test loss: 0.009643 Train F1 Background: 0.980897 Train F1 Landslides: 0.297918 Test F1 Background: 0.978684 Test F1 Landslides: 0.209946
32 Train loss: 0.007868 Test loss: 0.009138 Train F1 Background: 0.980894 Train F1 Landslides: 0.297405 Test F1 Background: 0.978051 Test F1 Landslides: 0.153492
33 Train loss: 0.007807 Test loss: 0.009145 Train F1 Background: 0.981008 Train F1 Landslides: 0.304667 Test F1 Background: 0.978624 Test F1 Landslides: 0.20033
34 Train loss: 0.007607 Test loss: 0.008837 Train F1 Background: 0.981329 Train F1 Landslides: 0.324832 Test F1 Background: 0.977552 Test F1 Landslides: 0.107428
35 Train loss: 0.007475 Test loss: 0.009319 Train F1 Background: 0.981548 Train F1 Landslides: 0.338146 Test F1 Background: 0.978708 Test F1 Landslides: 0.210759
36 Train loss: 0.007411 Test loss: 0.009438 Train F1 Background: 0.981855 Train F1 Landslides: 0.357007 Test F1 Background: 0.977994 Test F1 Landslides: 0.15123
37 Train loss: 0.007336 Test loss: 0.009554 Train F1 Background: 0.981872 Train F1 Landslides: 0.357453 Test F1 Background: 0.977861 Test F1 Landslides: 0.142548
38 Train loss: 0.007264 Test loss: 0.009074 Train F1 Background: 0.981966 Train F1 Landslides: 0.363495 Test F1 Background: 0.977101 Test F1 Landslides: 0.068613
39 Train loss: 0.007163 Test loss: 0.009384 Train F1 Background: 0.982084 Train F1 Landslides: 0.36997 Test F1 Background: 0.978271 Test F1 Landslides: 0.175466
40 Train loss: 0.007051 Test loss: 0.009069 Train F1 Background: 0.982238 Train F1 Landslides: 0.378693 Test F1 Background: 0.978075 Test F1 Landslides: 0.155844
41 Train loss: 0.006992 Test loss: 0.009129 Train F1 Background: 0.98241 Train F1 Landslides: 0.388602 Test F1 Background: 0.978656 Test F1 Landslides: 0.203558
42 Train loss: 0.006886 Test loss: 0.009123 Train F1 Background: 0.982469 Train F1 Landslides: 0.39174 Test F1 Background: 0.978433 Test F1 Landslides: 0.185989
43 Train loss: 0.006809 Test loss: 0.009202 Train F1 Background: 0.982666 Train F1 Landslides: 0.403043 Test F1 Background: 0.978611 Test F1 Landslides: 0.204647
44 Train loss: 0.006708 Test loss: 0.009141 Train F1 Background: 0.982796 Train F1 Landslides: 0.410178 Test F1 Background: 0.978047 Test F1 Landslides: 0.154065
45 Train loss: 0.006722 Test loss: 0.009081 Train F1 Background: 0.982801 Train F1 Landslides: 0.410464 Test F1 Background: 0.97873 Test F1 Landslides: 0.206299
46 Train loss: 0.006487 Test loss: 0.009144 Train F1 Background: 0.983075 Train F1 Landslides: 0.425369 Test F1 Background: 0.978 Test F1 Landslides: 0.150201
47 Train loss: 0.006477 Test loss: 0.009245 Train F1 Background: 0.983113 Train F1 Landslides: 0.427511 Test F1 Background: 0.978103 Test F1 Landslides: 0.158526
48 Train loss: 0.006477 Test loss: 0.010481 Train F1 Background: 0.983116 Train F1 Landslides: 0.427537 Test F1 Background: 0.978987 Test F1 Landslides: 0.245028
49 Train loss: 0.006374 Test loss: 0.009812 Train F1 Background: 0.983293 Train F1 Landslides: 0.43724 Test F1 Background: 0.978389 Test F1 Landslides: 0.186424
50 Train loss: 0.006235 Test loss: 0.009981 Train F1 Background: 0.98343 Train F1 Landslides: 0.444419 Test F1 Background: 0.978626 Test F1 Landslides: 0.204653
51 Train loss: 0.006306 Test loss: 0.009915 Train F1 Background: 0.983346 Train F1 Landslides: 0.439931 Test F1 Background: 0.978703 Test F1 Landslides: 0.212237
52 Train loss: 0.006357 Test loss: 0.009616 Train F1 Background: 0.983371 Train F1 Landslides: 0.441421 Test F1 Background: 0.978887 Test F1 Landslides: 0.221321
53 Train loss: 0.006246 Test loss: 0.009533 Train F1 Background: 0.983528 Train F1 Landslides: 0.449839 Test F1 Background: 0.9785 Test F1 Landslides: 0.192148
54 Train loss: 0.006134 Test loss: 0.01032 Train F1 Background: 0.983689 Train F1 Landslides: 0.458099 Test F1 Background: 0.978413 Test F1 Landslides: 0.18999
55 Train loss: 0.005983 Test loss: 0.010465 Train F1 Background: 0.983842 Train F1 Landslides: 0.465899 Test F1 Background: 0.979077 Test F1 Landslides: 0.240673
56 Train loss: 0.005915 Test loss: 0.010201 Train F1 Background: 0.983928 Train F1 Landslides: 0.470299 Test F1 Background: 0.978789 Test F1 Landslides: 0.218276
57 Train loss: 0.00586 Test loss: 0.010007 Train F1 Background: 0.984017 Train F1 Landslides: 0.474808 Test F1 Background: 0.978629 Test F1 Landslides: 0.203966
58 Train loss: 0.005825 Test loss: 0.010281 Train F1 Background: 0.984114 Train F1 Landslides: 0.479791 Test F1 Background: 0.978218 Test F1 Landslides: 0.170203
59 Train loss: 0.005831 Test loss: 0.011292 Train F1 Background: 0.984113 Train F1 Landslides: 0.479773 Test F1 Background: 0.979447 Test F1 Landslides: 0.276294
Validation Loss:  0.010788 Val F1 Background:  0.982751 Val F1 Landslides:  0.317588

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▂▂▂▂▂▂▂▂▂▃▂▅▃▃▂▅▅▄▄▅▇▆▄▅▅▆▅▆▆▇▅▇▆▇▇▆▇▆█
Test F1 Landslides	▁▁▁▁▁▁▁▁▁▁▂▁▄▂▃▂▄▅▄▃▅▆▆▄▅▅▅▅▆▆▆▅▇▆▆▇▆▇▆█
Test loss	█▆▂▂▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▅▅▅▅▅▅▅▅▆▆▆▆▆▆▆▆▆▆▆▇▇▇▇▇▇▇▇▇▇██████████
Train F1 Landslides	▂▁▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▄▅▅▅▆▆▆▆▇▇▇▇▇▇▇▇▇████
Train loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97945
Test F1 Landslides	0.27629
Test loss	0.01129
Train F1 Background	0.98411
Train F1 Landslides	0.47977
Train loss	0.00583
Val F1 Background	0.98275
Val F1 Landslides	0.31759
Val Loss	0.01079

View run vague-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/stleyhlz
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231017_174807-stleyhlz/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Tune

Tune FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Tune FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3, 5e-4]},
        "batchsize": {"values": [32]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_tune_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "to_tensor")

    filename = "weights/model_tuning_fcn_lr{}_bs{}.pth".format(config.learn_rate, config.batchsize)
    torch.save(model.state_dict(), filename)

wandb.agent(sweep_tune_fcn, function=main)
wandb.finish()

Create sweep with ID: 3dd93fgd
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd

wandb: Agent Starting Run: ey5jzz1q with config:
wandb: 	batchsize: 32
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_213344-ey5jzz1q

Syncing run quiet-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/ey5jzz1q

0 Train loss: 0.157427 Test loss: 0.030113 Train F1 Background: 0.954864 Train F1 Landslides: 0.048515 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.021208 Test loss: 0.016517 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.014811 Test loss: 0.013454 Train F1 Background: 0.97699 Train F1 Landslides: 0.000161 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
3 Train loss: 0.012508 Test loss: 0.012261 Train F1 Background: 0.977008 Train F1 Landslides: 0.00175 Test F1 Background: 0.976548 Test F1 Landslides: 0.019472
4 Train loss: 0.011304 Test loss: 0.011088 Train F1 Background: 0.977063 Train F1 Landslides: 0.00666 Test F1 Background: 0.976349 Test F1 Landslides: 0.002252
5 Train loss: 0.010643 Test loss: 0.010247 Train F1 Background: 0.977258 Train F1 Landslides: 0.024452 Test F1 Background: 0.976495 Test F1 Landslides: 0.015002
6 Train loss: 0.009959 Test loss: 0.010314 Train F1 Background: 0.977588 Train F1 Landslides: 0.053355 Test F1 Background: 0.977661 Test F1 Landslides: 0.121354
7 Train loss: 0.009569 Test loss: 0.011038 Train F1 Background: 0.97785 Train F1 Landslides: 0.075212 Test F1 Background: 0.977646 Test F1 Landslides: 0.1274
8 Train loss: 0.009193 Test loss: 0.009422 Train F1 Background: 0.978259 Train F1 Landslides: 0.109331 Test F1 Background: 0.976669 Test F1 Landslides: 0.030793
9 Train loss: 0.008819 Test loss: 0.010692 Train F1 Background: 0.978771 Train F1 Landslides: 0.148253 Test F1 Background: 0.978417 Test F1 Landslides: 0.192284
10 Train loss: 0.008606 Test loss: 0.010046 Train F1 Background: 0.979123 Train F1 Landslides: 0.175519 Test F1 Background: 0.976596 Test F1 Landslides: 0.025846
11 Train loss: 0.008327 Test loss: 0.009528 Train F1 Background: 0.9796 Train F1 Landslides: 0.210638 Test F1 Background: 0.976815 Test F1 Landslides: 0.044041
12 Train loss: 0.008292 Test loss: 0.010221 Train F1 Background: 0.97981 Train F1 Landslides: 0.224714 Test F1 Background: 0.978976 Test F1 Landslides: 0.238028
13 Train loss: 0.007887 Test loss: 0.009156 Train F1 Background: 0.98046 Train F1 Landslides: 0.26952 Test F1 Background: 0.977813 Test F1 Landslides: 0.128085
14 Train loss: 0.007568 Test loss: 0.009278 Train F1 Background: 0.981163 Train F1 Landslides: 0.314537 Test F1 Background: 0.978686 Test F1 Landslides: 0.19787
15 Train loss: 0.007281 Test loss: 0.010779 Train F1 Background: 0.981644 Train F1 Landslides: 0.343924 Test F1 Background: 0.980154 Test F1 Landslides: 0.319002
16 Train loss: 0.007308 Test loss: 0.009926 Train F1 Background: 0.981872 Train F1 Landslides: 0.357901 Test F1 Background: 0.979319 Test F1 Landslides: 0.255236
17 Train loss: 0.006999 Test loss: 0.009342 Train F1 Background: 0.982159 Train F1 Landslides: 0.374566 Test F1 Background: 0.978067 Test F1 Landslides: 0.150363
18 Train loss: 0.006835 Test loss: 0.00944 Train F1 Background: 0.982378 Train F1 Landslides: 0.387013 Test F1 Background: 0.978807 Test F1 Landslides: 0.20972
19 Train loss: 0.006753 Test loss: 0.009772 Train F1 Background: 0.982757 Train F1 Landslides: 0.408499 Test F1 Background: 0.97915 Test F1 Landslides: 0.240516
20 Train loss: 0.006624 Test loss: 0.009708 Train F1 Background: 0.982834 Train F1 Landslides: 0.412591 Test F1 Background: 0.978485 Test F1 Landslides: 0.184899
21 Train loss: 0.006465 Test loss: 0.009582 Train F1 Background: 0.983056 Train F1 Landslides: 0.424876 Test F1 Background: 0.978556 Test F1 Landslides: 0.191653
22 Train loss: 0.00629 Test loss: 0.009852 Train F1 Background: 0.983291 Train F1 Landslides: 0.437433 Test F1 Background: 0.979131 Test F1 Landslides: 0.237601
23 Train loss: 0.006128 Test loss: 0.010379 Train F1 Background: 0.983527 Train F1 Landslides: 0.449761 Test F1 Background: 0.979549 Test F1 Landslides: 0.275356
24 Train loss: 0.006018 Test loss: 0.009847 Train F1 Background: 0.983782 Train F1 Landslides: 0.463174 Test F1 Background: 0.978773 Test F1 Landslides: 0.209258
25 Train loss: 0.005863 Test loss: 0.009828 Train F1 Background: 0.984007 Train F1 Landslides: 0.474506 Test F1 Background: 0.978421 Test F1 Landslides: 0.1774
26 Train loss: 0.00594 Test loss: 0.010899 Train F1 Background: 0.983998 Train F1 Landslides: 0.474014 Test F1 Background: 0.980453 Test F1 Landslides: 0.338564
27 Train loss: 0.005963 Test loss: 0.010328 Train F1 Background: 0.983966 Train F1 Landslides: 0.472866 Test F1 Background: 0.979381 Test F1 Landslides: 0.261044
28 Train loss: 0.005893 Test loss: 0.010026 Train F1 Background: 0.984053 Train F1 Landslides: 0.477269 Test F1 Background: 0.97892 Test F1 Landslides: 0.219774
29 Train loss: 0.005893 Test loss: 0.010204 Train F1 Background: 0.984026 Train F1 Landslides: 0.47562 Test F1 Background: 0.980131 Test F1 Landslides: 0.310025
30 Train loss: 0.005721 Test loss: 0.010425 Train F1 Background: 0.984367 Train F1 Landslides: 0.492993 Test F1 Background: 0.979685 Test F1 Landslides: 0.282391
31 Train loss: 0.005545 Test loss: 0.01089 Train F1 Background: 0.984595 Train F1 Landslides: 0.503893 Test F1 Background: 0.980469 Test F1 Landslides: 0.339315
32 Train loss: 0.005499 Test loss: 0.010269 Train F1 Background: 0.984669 Train F1 Landslides: 0.507566 Test F1 Background: 0.978811 Test F1 Landslides: 0.209778
33 Train loss: 0.005645 Test loss: 0.010118 Train F1 Background: 0.984456 Train F1 Landslides: 0.497307 Test F1 Background: 0.978756 Test F1 Landslides: 0.203865
34 Train loss: 0.005464 Test loss: 0.010422 Train F1 Background: 0.984755 Train F1 Landslides: 0.511679 Test F1 Background: 0.979855 Test F1 Landslides: 0.292772
35 Train loss: 0.005356 Test loss: 0.009946 Train F1 Background: 0.984985 Train F1 Landslides: 0.522716 Test F1 Background: 0.979112 Test F1 Landslides: 0.236201
36 Train loss: 0.005361 Test loss: 0.00996 Train F1 Background: 0.984998 Train F1 Landslides: 0.523373 Test F1 Background: 0.978906 Test F1 Landslides: 0.216325
37 Train loss: 0.00541 Test loss: 0.010041 Train F1 Background: 0.984936 Train F1 Landslides: 0.520581 Test F1 Background: 0.978635 Test F1 Landslides: 0.198624
38 Train loss: 0.005336 Test loss: 0.009927 Train F1 Background: 0.98509 Train F1 Landslides: 0.527752 Test F1 Background: 0.979323 Test F1 Landslides: 0.247698
39 Train loss: 0.005249 Test loss: 0.010201 Train F1 Background: 0.98534 Train F1 Landslides: 0.539574 Test F1 Background: 0.979308 Test F1 Landslides: 0.24887
40 Train loss: 0.00516 Test loss: 0.010616 Train F1 Background: 0.985408 Train F1 Landslides: 0.542586 Test F1 Background: 0.980109 Test F1 Landslides: 0.309992
41 Train loss: 0.005083 Test loss: 0.010613 Train F1 Background: 0.985655 Train F1 Landslides: 0.553969 Test F1 Background: 0.978979 Test F1 Landslides: 0.230499
42 Train loss: 0.005171 Test loss: 0.010975 Train F1 Background: 0.985459 Train F1 Landslides: 0.544922 Test F1 Background: 0.97994 Test F1 Landslides: 0.300635
43 Train loss: 0.005072 Test loss: 0.011044 Train F1 Background: 0.985545 Train F1 Landslides: 0.548927 Test F1 Background: 0.980017 Test F1 Landslides: 0.309512
44 Train loss: 0.005003 Test loss: 0.010741 Train F1 Background: 0.985747 Train F1 Landslides: 0.558059 Test F1 Background: 0.979769 Test F1 Landslides: 0.287863
45 Train loss: 0.004997 Test loss: 0.010289 Train F1 Background: 0.985781 Train F1 Landslides: 0.559606 Test F1 Background: 0.979539 Test F1 Landslides: 0.268392
46 Train loss: 0.005007 Test loss: 0.010745 Train F1 Background: 0.985891 Train F1 Landslides: 0.564552 Test F1 Background: 0.979794 Test F1 Landslides: 0.287549
47 Train loss: 0.005289 Test loss: 0.014483 Train F1 Background: 0.985332 Train F1 Landslides: 0.539517 Test F1 Background: 0.979695 Test F1 Landslides: 0.324844
48 Train loss: 0.007856 Test loss: 0.009514 Train F1 Background: 0.979534 Train F1 Landslides: 0.206533 Test F1 Background: 0.977005 Test F1 Landslides: 0.060419
49 Train loss: 0.008423 Test loss: 5.047374 Train F1 Background: 0.979498 Train F1 Landslides: 0.207157 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
50 Train loss: 0.009962 Test loss: 0.012324 Train F1 Background: 0.976989 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 2.7e-05
51 Train loss: 0.00943 Test loss: 0.009469 Train F1 Background: 0.976989 Train F1 Landslides: 5.9e-05 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
52 Train loss: 0.008939 Test loss: 0.009785 Train F1 Background: 0.97701 Train F1 Landslides: 0.001979 Test F1 Background: 0.976324 Test F1 Landslides: 0.000106
53 Train loss: 0.008756 Test loss: 0.00898 Train F1 Background: 0.977083 Train F1 Landslides: 0.008507 Test F1 Background: 0.976358 Test F1 Landslides: 0.003177
54 Train loss: 0.008402 Test loss: 0.009163 Train F1 Background: 0.977609 Train F1 Landslides: 0.054527 Test F1 Background: 0.976894 Test F1 Landslides: 0.054003
55 Train loss: 0.007924 Test loss: 0.008967 Train F1 Background: 0.978167 Train F1 Landslides: 0.101172 Test F1 Background: 0.977445 Test F1 Landslides: 0.101104
56 Train loss: 0.007736 Test loss: 0.009313 Train F1 Background: 0.978937 Train F1 Landslides: 0.161461 Test F1 Background: 0.978124 Test F1 Landslides: 0.161384
57 Train loss: 0.007997 Test loss: 0.009166 Train F1 Background: 0.979117 Train F1 Landslides: 0.175365 Test F1 Background: 0.977122 Test F1 Landslides: 0.07136
58 Train loss: 0.007548 Test loss: 0.010083 Train F1 Background: 0.97973 Train F1 Landslides: 0.219898 Test F1 Background: 0.977782 Test F1 Landslides: 0.144076
59 Train loss: 0.007167 Test loss: 0.009035 Train F1 Background: 0.980969 Train F1 Landslides: 0.302384 Test F1 Background: 0.977948 Test F1 Landslides: 0.142896
60 Train loss: 0.006733 Test loss: 0.009141 Train F1 Background: 0.981727 Train F1 Landslides: 0.349177 Test F1 Background: 0.978118 Test F1 Landslides: 0.157204
61 Train loss: 0.00651 Test loss: 0.010457 Train F1 Background: 0.982282 Train F1 Landslides: 0.381582 Test F1 Background: 0.979424 Test F1 Landslides: 0.27698
62 Train loss: 0.006246 Test loss: 0.009252 Train F1 Background: 0.982901 Train F1 Landslides: 0.416351 Test F1 Background: 0.978172 Test F1 Landslides: 0.159249
63 Train loss: 0.005973 Test loss: 0.009733 Train F1 Background: 0.983415 Train F1 Landslides: 0.444134 Test F1 Background: 0.978981 Test F1 Landslides: 0.227181
64 Train loss: 0.005818 Test loss: 0.010484 Train F1 Background: 0.983694 Train F1 Landslides: 0.458421 Test F1 Background: 0.980226 Test F1 Landslides: 0.320062
65 Train loss: 0.005806 Test loss: 0.010121 Train F1 Background: 0.983991 Train F1 Landslides: 0.47403 Test F1 Background: 0.97978 Test F1 Landslides: 0.287648
66 Train loss: 0.005617 Test loss: 0.010599 Train F1 Background: 0.984292 Train F1 Landslides: 0.489162 Test F1 Background: 0.979625 Test F1 Landslides: 0.283831
67 Train loss: 0.0055 Test loss: 0.009941 Train F1 Background: 0.984486 Train F1 Landslides: 0.49862 Test F1 Background: 0.979496 Test F1 Landslides: 0.26456
68 Train loss: 0.005452 Test loss: 0.011415 Train F1 Background: 0.984683 Train F1 Landslides: 0.508306 Test F1 Background: 0.98002 Test F1 Landslides: 0.319232
69 Train loss: 0.005336 Test loss: 0.010689 Train F1 Background: 0.985036 Train F1 Landslides: 0.525293 Test F1 Background: 0.97993 Test F1 Landslides: 0.300472
70 Train loss: 0.005233 Test loss: 0.011035 Train F1 Background: 0.985223 Train F1 Landslides: 0.534144 Test F1 Background: 0.980046 Test F1 Landslides: 0.31267
71 Train loss: 0.00518 Test loss: 0.010443 Train F1 Background: 0.985318 Train F1 Landslides: 0.538497 Test F1 Background: 0.979018 Test F1 Landslides: 0.230564
72 Train loss: 0.005127 Test loss: 0.010658 Train F1 Background: 0.985467 Train F1 Landslides: 0.545444 Test F1 Background: 0.979496 Test F1 Landslides: 0.265925
73 Train loss: 0.005083 Test loss: 0.010784 Train F1 Background: 0.985565 Train F1 Landslides: 0.550002 Test F1 Background: 0.979368 Test F1 Landslides: 0.26481
74 Train loss: 0.004998 Test loss: 0.010841 Train F1 Background: 0.985693 Train F1 Landslides: 0.555747 Test F1 Background: 0.97974 Test F1 Landslides: 0.286283
75 Train loss: 0.005015 Test loss: 0.010506 Train F1 Background: 0.985771 Train F1 Landslides: 0.559362 Test F1 Background: 0.979258 Test F1 Landslides: 0.251814
76 Train loss: 0.005075 Test loss: 0.011203 Train F1 Background: 0.985666 Train F1 Landslides: 0.554705 Test F1 Background: 0.978735 Test F1 Landslides: 0.208367
77 Train loss: 0.005219 Test loss: 0.011782 Train F1 Background: 0.985504 Train F1 Landslides: 0.547271 Test F1 Background: 0.980076 Test F1 Landslides: 0.317417
78 Train loss: 0.005078 Test loss: 0.011364 Train F1 Background: 0.985641 Train F1 Landslides: 0.553483 Test F1 Background: 0.98005 Test F1 Landslides: 0.314383
79 Train loss: 0.0049 Test loss: 0.011471 Train F1 Background: 0.985902 Train F1 Landslides: 0.565211 Test F1 Background: 0.980153 Test F1 Landslides: 0.320395
Validation Loss:  0.009737 Val F1 Background:  0.983215 Val F1 Landslides:  0.340505

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▁▃▂▁▅▅▆▅▅▆▅█▅▇▅▇▅▆▇▇▇▇▂▁▁▂▄▃▄▄█▇▇▇▆▇▅▇
Test F1 Landslides	▁▁▁▄▂▂▆▅▆▅▅▆▅█▆▇▅▇▅▆▇▇▇▇▂▁▁▂▄▄▄▄█▇█▇▆▇▅█
Test loss	█▂▂▁▁▁▁▁▁▁▁▁▁▂▁▁▁▁▁▁▁▂▂▂▁▂▁▁▁▁▁▁▁▁▂▂▂▂▂▂
Train F1 Background	▁▆▆▆▆▆▇▇▇▇▇▇████████████▇▆▆▆▆▇▇▇████████
Train F1 Landslides	▂▁▁▂▂▃▄▅▅▆▆▆▇▇▇▇▇▇▇█████▄▁▁▂▃▄▅▆▇▇▇█████
Train loss	█▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.98015
Test F1 Landslides	0.32039
Test loss	0.01147
Train F1 Background	0.9859
Train F1 Landslides	0.56521
Train loss	0.0049
Val F1 Background	0.98321
Val F1 Landslides	0.3405
Val Loss	0.00974

View run quiet-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/ey5jzz1q
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_213344-ey5jzz1q/logs

wandb: Agent Starting Run: cpa4oqr3 with config:
wandb: 	batchsize: 32
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.0005
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_215006-cpa4oqr3

Syncing run eager-sweep-2 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/3dd93fgd

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/cpa4oqr3

0 Train loss: 0.208205 Test loss: 0.070739 Train F1 Background: 0.957753 Train F1 Landslides: 0.045609 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.048926 Test loss: 0.034845 Train F1 Background: 0.976978 Train F1 Landslides: 0.00036 Test F1 Background: 0.976326 Test F1 Landslides: 0.000199
2 Train loss: 0.026668 Test loss: 0.022862 Train F1 Background: 0.977019 Train F1 Landslides: 0.002852 Test F1 Background: 0.977158 Test F1 Landslides: 0.076389
3 Train loss: 0.019137 Test loss: 0.017136 Train F1 Background: 0.977178 Train F1 Landslides: 0.017956 Test F1 Background: 0.976586 Test F1 Landslides: 0.024559
4 Train loss: 0.015429 Test loss: 0.014476 Train F1 Background: 0.977492 Train F1 Landslides: 0.044611 Test F1 Background: 0.976445 Test F1 Landslides: 0.011348
5 Train loss: 0.013387 Test loss: 0.013037 Train F1 Background: 0.977687 Train F1 Landslides: 0.061119 Test F1 Background: 0.976765 Test F1 Landslides: 0.039565
6 Train loss: 0.012035 Test loss: 0.012173 Train F1 Background: 0.978193 Train F1 Landslides: 0.103208 Test F1 Background: 0.977078 Test F1 Landslides: 0.068336
7 Train loss: 0.011029 Test loss: 0.011398 Train F1 Background: 0.978683 Train F1 Landslides: 0.14188 Test F1 Background: 0.97739 Test F1 Landslides: 0.094879
8 Train loss: 0.010248 Test loss: 0.011211 Train F1 Background: 0.979341 Train F1 Landslides: 0.190863 Test F1 Background: 0.978282 Test F1 Landslides: 0.169624
9 Train loss: 0.01016 Test loss: 0.011258 Train F1 Background: 0.978707 Train F1 Landslides: 0.144212 Test F1 Background: 0.978258 Test F1 Landslides: 0.173884
10 Train loss: 0.009327 Test loss: 0.010409 Train F1 Background: 0.979817 Train F1 Landslides: 0.225114 Test F1 Background: 0.977859 Test F1 Landslides: 0.134551
11 Train loss: 0.008849 Test loss: 0.010159 Train F1 Background: 0.980387 Train F1 Landslides: 0.264244 Test F1 Background: 0.977028 Test F1 Landslides: 0.063176
12 Train loss: 0.008533 Test loss: 0.009953 Train F1 Background: 0.980761 Train F1 Landslides: 0.288415 Test F1 Background: 0.977978 Test F1 Landslides: 0.144927
13 Train loss: 0.008257 Test loss: 0.009997 Train F1 Background: 0.981161 Train F1 Landslides: 0.313922 Test F1 Background: 0.977962 Test F1 Landslides: 0.143315
14 Train loss: 0.007943 Test loss: 0.009903 Train F1 Background: 0.981436 Train F1 Landslides: 0.331044 Test F1 Background: 0.977963 Test F1 Landslides: 0.142724
15 Train loss: 0.007723 Test loss: 0.010075 Train F1 Background: 0.981848 Train F1 Landslides: 0.356133 Test F1 Background: 0.978375 Test F1 Landslides: 0.177441
16 Train loss: 0.007702 Test loss: 0.00979 Train F1 Background: 0.981746 Train F1 Landslides: 0.349964 Test F1 Background: 0.977971 Test F1 Landslides: 0.143353
17 Train loss: 0.007291 Test loss: 0.009561 Train F1 Background: 0.982333 Train F1 Landslides: 0.384218 Test F1 Background: 0.977964 Test F1 Landslides: 0.143199
18 Train loss: 0.007138 Test loss: 0.009669 Train F1 Background: 0.982526 Train F1 Landslides: 0.395149 Test F1 Background: 0.978507 Test F1 Landslides: 0.186032
19 Train loss: 0.007017 Test loss: 0.010293 Train F1 Background: 0.982688 Train F1 Landslides: 0.404184 Test F1 Background: 0.979372 Test F1 Landslides: 0.259784
20 Train loss: 0.006955 Test loss: 0.0095 Train F1 Background: 0.982875 Train F1 Landslides: 0.415135 Test F1 Background: 0.978217 Test F1 Landslides: 0.162143
21 Train loss: 0.0068 Test loss: 0.00948 Train F1 Background: 0.982926 Train F1 Landslides: 0.4175 Test F1 Background: 0.97844 Test F1 Landslides: 0.179358
22 Train loss: 0.00651 Test loss: 0.009718 Train F1 Background: 0.983406 Train F1 Landslides: 0.443366 Test F1 Background: 0.978406 Test F1 Landslides: 0.177331
23 Train loss: 0.006376 Test loss: 0.009857 Train F1 Background: 0.983689 Train F1 Landslides: 0.45815 Test F1 Background: 0.979061 Test F1 Landslides: 0.230421
24 Train loss: 0.006418 Test loss: 0.009632 Train F1 Background: 0.983686 Train F1 Landslides: 0.458064 Test F1 Background: 0.978872 Test F1 Landslides: 0.21447
25 Train loss: 0.006185 Test loss: 0.009634 Train F1 Background: 0.983968 Train F1 Landslides: 0.472874 Test F1 Background: 0.978443 Test F1 Landslides: 0.179803
26 Train loss: 0.00604 Test loss: 0.009778 Train F1 Background: 0.984057 Train F1 Landslides: 0.476981 Test F1 Background: 0.978931 Test F1 Landslides: 0.218598
27 Train loss: 0.006038 Test loss: 0.009707 Train F1 Background: 0.984054 Train F1 Landslides: 0.476963 Test F1 Background: 0.978298 Test F1 Landslides: 0.167726
28 Train loss: 0.006042 Test loss: 0.009753 Train F1 Background: 0.984049 Train F1 Landslides: 0.476604 Test F1 Background: 0.979189 Test F1 Landslides: 0.238715
29 Train loss: 0.005887 Test loss: 0.009551 Train F1 Background: 0.984393 Train F1 Landslides: 0.494 Test F1 Background: 0.978399 Test F1 Landslides: 0.176013
30 Train loss: 0.005734 Test loss: 0.010377 Train F1 Background: 0.984611 Train F1 Landslides: 0.50467 Test F1 Background: 0.976929 Test F1 Landslides: 0.052844
31 Train loss: 0.006997 Test loss: 0.009848 Train F1 Background: 0.981845 Train F1 Landslides: 0.356568 Test F1 Background: 0.978986 Test F1 Landslides: 0.226752
32 Train loss: 0.006472 Test loss: 0.009697 Train F1 Background: 0.983171 Train F1 Landslides: 0.431278 Test F1 Background: 0.978411 Test F1 Landslides: 0.182272
33 Train loss: 0.00597 Test loss: 0.009655 Train F1 Background: 0.984011 Train F1 Landslides: 0.475003 Test F1 Background: 0.979143 Test F1 Landslides: 0.235664
34 Train loss: 0.005795 Test loss: 0.009879 Train F1 Background: 0.984264 Train F1 Landslides: 0.487504 Test F1 Background: 0.979132 Test F1 Landslides: 0.237038
35 Train loss: 0.005635 Test loss: 0.009591 Train F1 Background: 0.984818 Train F1 Landslides: 0.514803 Test F1 Background: 0.978961 Test F1 Landslides: 0.219043
36 Train loss: 0.005484 Test loss: 0.009728 Train F1 Background: 0.984946 Train F1 Landslides: 0.520808 Test F1 Background: 0.979319 Test F1 Landslides: 0.248035
37 Train loss: 0.005479 Test loss: 0.009546 Train F1 Background: 0.984968 Train F1 Landslides: 0.5218 Test F1 Background: 0.97894 Test F1 Landslides: 0.218362
38 Train loss: 0.005361 Test loss: 0.009601 Train F1 Background: 0.985088 Train F1 Landslides: 0.527398 Test F1 Background: 0.979124 Test F1 Landslides: 0.231159
39 Train loss: 0.00533 Test loss: 0.009861 Train F1 Background: 0.985253 Train F1 Landslides: 0.535326 Test F1 Background: 0.979258 Test F1 Landslides: 0.244407
40 Train loss: 0.005321 Test loss: 0.009697 Train F1 Background: 0.985231 Train F1 Landslides: 0.534246 Test F1 Background: 0.97936 Test F1 Landslides: 0.250616
41 Train loss: 0.005283 Test loss: 0.009754 Train F1 Background: 0.985412 Train F1 Landslides: 0.542692 Test F1 Background: 0.979334 Test F1 Landslides: 0.249708
42 Train loss: 0.005303 Test loss: 0.010041 Train F1 Background: 0.985448 Train F1 Landslides: 0.544289 Test F1 Background: 0.979361 Test F1 Landslides: 0.253235
43 Train loss: 0.005452 Test loss: 0.010579 Train F1 Background: 0.985301 Train F1 Landslides: 0.537806 Test F1 Background: 0.979449 Test F1 Landslides: 0.268146
44 Train loss: 0.005408 Test loss: 0.010413 Train F1 Background: 0.985051 Train F1 Landslides: 0.526094 Test F1 Background: 0.979708 Test F1 Landslides: 0.282587
45 Train loss: 0.005363 Test loss: 0.010267 Train F1 Background: 0.985196 Train F1 Landslides: 0.532758 Test F1 Background: 0.979442 Test F1 Landslides: 0.261588
46 Train loss: 0.005191 Test loss: 0.009836 Train F1 Background: 0.985521 Train F1 Landslides: 0.547741 Test F1 Background: 0.978847 Test F1 Landslides: 0.213423
47 Train loss: 0.005134 Test loss: 0.010437 Train F1 Background: 0.985602 Train F1 Landslides: 0.551357 Test F1 Background: 0.979541 Test F1 Landslides: 0.269935
48 Train loss: 0.005114 Test loss: 0.010013 Train F1 Background: 0.985727 Train F1 Landslides: 0.557034 Test F1 Background: 0.979035 Test F1 Landslides: 0.228475
49 Train loss: 0.005071 Test loss: 0.010643 Train F1 Background: 0.985751 Train F1 Landslides: 0.558174 Test F1 Background: 0.979799 Test F1 Landslides: 0.290024
50 Train loss: 0.005043 Test loss: 0.010514 Train F1 Background: 0.985863 Train F1 Landslides: 0.563171 Test F1 Background: 0.97975 Test F1 Landslides: 0.286419
51 Train loss: 0.004953 Test loss: 0.010601 Train F1 Background: 0.985919 Train F1 Landslides: 0.565703 Test F1 Background: 0.979561 Test F1 Landslides: 0.274243
52 Train loss: 0.004964 Test loss: 0.010106 Train F1 Background: 0.985969 Train F1 Landslides: 0.567906 Test F1 Background: 0.979429 Test F1 Landslides: 0.259063
53 Train loss: 0.004934 Test loss: 0.010214 Train F1 Background: 0.986019 Train F1 Landslides: 0.57013 Test F1 Background: 0.979233 Test F1 Landslides: 0.245604
54 Train loss: 0.004914 Test loss: 0.010306 Train F1 Background: 0.986088 Train F1 Landslides: 0.573285 Test F1 Background: 0.979424 Test F1 Landslides: 0.260039
55 Train loss: 0.004906 Test loss: 0.010695 Train F1 Background: 0.986023 Train F1 Landslides: 0.570286 Test F1 Background: 0.979804 Test F1 Landslides: 0.291681
56 Train loss: 0.004892 Test loss: 0.010392 Train F1 Background: 0.98615 Train F1 Landslides: 0.575964 Test F1 Background: 0.979604 Test F1 Landslides: 0.27382
57 Train loss: 0.004864 Test loss: 0.010506 Train F1 Background: 0.986169 Train F1 Landslides: 0.576914 Test F1 Background: 0.979439 Test F1 Landslides: 0.261568
58 Train loss: 0.004975 Test loss: 0.010934 Train F1 Background: 0.98609 Train F1 Landslides: 0.573323 Test F1 Background: 0.979437 Test F1 Landslides: 0.269184
59 Train loss: 0.005147 Test loss: 0.010355 Train F1 Background: 0.985694 Train F1 Landslides: 0.556023 Test F1 Background: 0.979156 Test F1 Landslides: 0.239969
60 Train loss: 0.005279 Test loss: 0.010864 Train F1 Background: 0.985363 Train F1 Landslides: 0.540842 Test F1 Background: 0.97939 Test F1 Landslides: 0.261844
61 Train loss: 0.005233 Test loss: 0.010273 Train F1 Background: 0.985462 Train F1 Landslides: 0.545354 Test F1 Background: 0.978979 Test F1 Landslides: 0.224869
62 Train loss: 0.005173 Test loss: 0.010497 Train F1 Background: 0.985581 Train F1 Landslides: 0.55058 Test F1 Background: 0.979151 Test F1 Landslides: 0.241458
63 Train loss: 0.005012 Test loss: 0.010602 Train F1 Background: 0.985768 Train F1 Landslides: 0.559063 Test F1 Background: 0.979614 Test F1 Landslides: 0.274875
64 Train loss: 0.004965 Test loss: 0.010624 Train F1 Background: 0.985928 Train F1 Landslides: 0.566159 Test F1 Background: 0.979543 Test F1 Landslides: 0.273519
65 Train loss: 0.004931 Test loss: 0.010947 Train F1 Background: 0.986084 Train F1 Landslides: 0.573039 Test F1 Background: 0.979688 Test F1 Landslides: 0.283002
66 Train loss: 0.004977 Test loss: 0.011141 Train F1 Background: 0.985916 Train F1 Landslides: 0.565809 Test F1 Background: 0.979395 Test F1 Landslides: 0.257111
67 Train loss: 0.005485 Test loss: 0.010864 Train F1 Background: 0.984978 Train F1 Landslides: 0.522855 Test F1 Background: 0.979278 Test F1 Landslides: 0.257368
68 Train loss: 0.005554 Test loss: 0.010083 Train F1 Background: 0.984769 Train F1 Landslides: 0.512927 Test F1 Background: 0.978595 Test F1 Landslides: 0.196772
69 Train loss: 0.005287 Test loss: 0.01063 Train F1 Background: 0.985254 Train F1 Landslides: 0.535669 Test F1 Background: 0.979152 Test F1 Landslides: 0.239359
70 Train loss: 0.005087 Test loss: 0.010926 Train F1 Background: 0.985548 Train F1 Landslides: 0.54914 Test F1 Background: 0.980086 Test F1 Landslides: 0.313292
71 Train loss: 0.004997 Test loss: 0.010324 Train F1 Background: 0.985892 Train F1 Landslides: 0.564598 Test F1 Background: 0.978556 Test F1 Landslides: 0.191203
72 Train loss: 0.004918 Test loss: 0.010722 Train F1 Background: 0.98599 Train F1 Landslides: 0.568942 Test F1 Background: 0.979705 Test F1 Landslides: 0.279739
73 Train loss: 0.004881 Test loss: 0.010667 Train F1 Background: 0.986128 Train F1 Landslides: 0.575033 Test F1 Background: 0.979753 Test F1 Landslides: 0.284053
74 Train loss: 0.004777 Test loss: 0.010762 Train F1 Background: 0.986302 Train F1 Landslides: 0.582659 Test F1 Background: 0.979607 Test F1 Landslides: 0.272157
75 Train loss: 0.004737 Test loss: 0.010781 Train F1 Background: 0.986326 Train F1 Landslides: 0.583669 Test F1 Background: 0.979794 Test F1 Landslides: 0.28791
76 Train loss: 0.004734 Test loss: 0.010801 Train F1 Background: 0.986441 Train F1 Landslides: 0.588634 Test F1 Background: 0.979759 Test F1 Landslides: 0.284681
77 Train loss: 0.004669 Test loss: 0.011081 Train F1 Background: 0.986533 Train F1 Landslides: 0.592603 Test F1 Background: 0.97984 Test F1 Landslides: 0.293408
78 Train loss: 0.004721 Test loss: 0.011152 Train F1 Background: 0.986556 Train F1 Landslides: 0.593588 Test F1 Background: 0.979804 Test F1 Landslides: 0.290642
79 Train loss: 0.004666 Test loss: 0.010796 Train F1 Background: 0.986636 Train F1 Landslides: 0.597015 Test F1 Background: 0.979615 Test F1 Landslides: 0.275513
Validation Loss:  0.009882 Val F1 Background:  0.982625 Val F1 Landslides:  0.296545

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▃▁▂▅▄▄▄▄▅▅▅▆▆▆▂▅▆▇▆▇▇▇▆▆▇▇▇▇▇▇▆▇▇▅█▇▇▇▇
Test F1 Landslides	▁▃▁▃▅▄▄▄▄▅▅▅▆▆▆▂▅▆▇▆▇▇▇▆▆▇▇▇▇▇▇▆▇▇▅█▇▇▇▇
Test loss	█▃▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Train F1 Background	▁▆▆▆▆▆▇▇▇▇▇▇▇▇▇█▇▇██████████████████████
Train F1 Landslides	▂▁▁▂▃▄▄▅▅▆▆▆▆▇▇▇▆▇▇▇▇▇▇▇██████▇▇██▇▇████
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97961
Test F1 Landslides	0.27551
Test loss	0.0108
Train F1 Background	0.98664
Train F1 Landslides	0.59702
Train loss	0.00467
Val F1 Background	0.98262
Val F1 Landslides	0.29655
Val Loss	0.00988

View run eager-sweep-2 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/cpa4oqr3
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_215006-cpa4oqr3/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Squeeze the Juice Out of It

FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Train longer U-Net",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [200]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_trainlonger_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain(config, model, device, transform_train = "to_tensor")

    torch.save(model.state_dict(), "weights/model_trainlonger_fcn.pth")

wandb.agent(sweep_trainlonger_fcn, function=main)
wandb.finish()

Create sweep with ID: k3785vyj
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/k3785vyj

wandb: Agent Starting Run: q2cca3lh with config:
wandb: 	batchsize: 64
wandb: 	epochs: 200
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231014_220959-q2cca3lh

Syncing run lively-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/k3785vyj

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/k3785vyj

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/q2cca3lh

0 Train loss: 0.233916 Test loss: 0.072342 Train F1 Background: 0.95224 Train F1 Landslides: 0.056902 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.041694 Test loss: 0.028791 Train F1 Background: 0.976983 Train F1 Landslides: 1.4e-05 Test F1 Background: 0.976325 Test F1 Landslides: 0.000159
2 Train loss: 0.022338 Test loss: 0.018497 Train F1 Background: 0.976999 Train F1 Landslides: 0.000993 Test F1 Background: 0.976326 Test F1 Landslides: 0.000278
3 Train loss: 0.016989 Test loss: 0.014957 Train F1 Background: 0.977029 Train F1 Landslides: 0.003612 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.014508 Test loss: 0.013407 Train F1 Background: 0.977167 Train F1 Landslides: 0.015901 Test F1 Background: 0.976584 Test F1 Landslides: 0.02397
5 Train loss: 0.013027 Test loss: 0.012139 Train F1 Background: 0.977411 Train F1 Landslides: 0.038041 Test F1 Background: 0.976496 Test F1 Landslides: 0.016375
6 Train loss: 0.012055 Test loss: 0.011494 Train F1 Background: 0.977579 Train F1 Landslides: 0.052233 Test F1 Background: 0.976736 Test F1 Landslides: 0.037958
7 Train loss: 0.011314 Test loss: 0.010964 Train F1 Background: 0.977695 Train F1 Landslides: 0.062808 Test F1 Background: 0.9767 Test F1 Landslides: 0.034946
8 Train loss: 0.01097 Test loss: 0.010388 Train F1 Background: 0.977516 Train F1 Landslides: 0.046439 Test F1 Background: 0.97674 Test F1 Landslides: 0.037888
9 Train loss: 0.010293 Test loss: 0.009983 Train F1 Background: 0.978025 Train F1 Landslides: 0.089849 Test F1 Background: 0.977397 Test F1 Landslides: 0.096032
10 Train loss: 0.009836 Test loss: 0.009883 Train F1 Background: 0.978548 Train F1 Landslides: 0.13142 Test F1 Background: 0.977723 Test F1 Landslides: 0.126231
11 Train loss: 0.009505 Test loss: 0.009409 Train F1 Background: 0.978961 Train F1 Landslides: 0.163564 Test F1 Background: 0.977342 Test F1 Landslides: 0.090013
12 Train loss: 0.009137 Test loss: 0.00929 Train F1 Background: 0.979467 Train F1 Landslides: 0.200508 Test F1 Background: 0.977291 Test F1 Landslides: 0.085227
13 Train loss: 0.008917 Test loss: 0.009464 Train F1 Background: 0.979703 Train F1 Landslides: 0.217397 Test F1 Background: 0.977659 Test F1 Landslides: 0.118127
14 Train loss: 0.008675 Test loss: 0.009352 Train F1 Background: 0.979943 Train F1 Landslides: 0.23429 Test F1 Background: 0.977931 Test F1 Landslides: 0.140155
15 Train loss: 0.008357 Test loss: 0.009386 Train F1 Background: 0.980711 Train F1 Landslides: 0.286239 Test F1 Background: 0.977507 Test F1 Landslides: 0.109772
16 Train loss: 0.008188 Test loss: 0.009064 Train F1 Background: 0.980664 Train F1 Landslides: 0.282265 Test F1 Background: 0.977849 Test F1 Landslides: 0.133216
17 Train loss: 0.007918 Test loss: 0.009063 Train F1 Background: 0.981242 Train F1 Landslides: 0.319022 Test F1 Background: 0.97839 Test F1 Landslides: 0.17433
18 Train loss: 0.007637 Test loss: 0.009816 Train F1 Background: 0.981737 Train F1 Landslides: 0.349212 Test F1 Background: 0.979216 Test F1 Landslides: 0.246666
19 Train loss: 0.007576 Test loss: 0.009188 Train F1 Background: 0.982031 Train F1 Landslides: 0.366966 Test F1 Background: 0.978763 Test F1 Landslides: 0.207659
20 Train loss: 0.007288 Test loss: 0.009558 Train F1 Background: 0.982294 Train F1 Landslides: 0.381986 Test F1 Background: 0.97881 Test F1 Landslides: 0.211319
21 Train loss: 0.007158 Test loss: 0.009504 Train F1 Background: 0.9825 Train F1 Landslides: 0.394006 Test F1 Background: 0.97793 Test F1 Landslides: 0.145021
22 Train loss: 0.006954 Test loss: 0.009911 Train F1 Background: 0.982552 Train F1 Landslides: 0.396422 Test F1 Background: 0.979221 Test F1 Landslides: 0.247078
23 Train loss: 0.006827 Test loss: 0.010054 Train F1 Background: 0.982889 Train F1 Landslides: 0.415206 Test F1 Background: 0.979875 Test F1 Landslides: 0.293975
24 Train loss: 0.006635 Test loss: 0.00931 Train F1 Background: 0.983281 Train F1 Landslides: 0.436687 Test F1 Background: 0.978915 Test F1 Landslides: 0.22061
25 Train loss: 0.006579 Test loss: 0.009709 Train F1 Background: 0.983241 Train F1 Landslides: 0.434504 Test F1 Background: 0.979819 Test F1 Landslides: 0.289801
26 Train loss: 0.006464 Test loss: 0.009417 Train F1 Background: 0.983388 Train F1 Landslides: 0.442267 Test F1 Background: 0.978643 Test F1 Landslides: 0.198959
27 Train loss: 0.00631 Test loss: 0.009327 Train F1 Background: 0.98358 Train F1 Landslides: 0.452433 Test F1 Background: 0.978038 Test F1 Landslides: 0.151762
28 Train loss: 0.006356 Test loss: 0.0104 Train F1 Background: 0.983423 Train F1 Landslides: 0.444328 Test F1 Background: 0.979682 Test F1 Landslides: 0.287456
29 Train loss: 0.006243 Test loss: 0.009981 Train F1 Background: 0.983574 Train F1 Landslides: 0.452029 Test F1 Background: 0.979317 Test F1 Landslides: 0.251765
30 Train loss: 0.006017 Test loss: 0.009487 Train F1 Background: 0.983949 Train F1 Landslides: 0.471471 Test F1 Background: 0.97908 Test F1 Landslides: 0.234037
31 Train loss: 0.005904 Test loss: 0.00963 Train F1 Background: 0.984086 Train F1 Landslides: 0.478181 Test F1 Background: 0.978764 Test F1 Landslides: 0.212855
32 Train loss: 0.005953 Test loss: 0.009534 Train F1 Background: 0.984047 Train F1 Landslides: 0.476421 Test F1 Background: 0.979001 Test F1 Landslides: 0.227297
33 Train loss: 0.005829 Test loss: 0.009617 Train F1 Background: 0.984206 Train F1 Landslides: 0.484416 Test F1 Background: 0.979487 Test F1 Landslides: 0.262567
34 Train loss: 0.005721 Test loss: 0.009892 Train F1 Background: 0.984336 Train F1 Landslides: 0.490765 Test F1 Background: 0.979833 Test F1 Landslides: 0.290585
35 Train loss: 0.005707 Test loss: 0.009341 Train F1 Background: 0.984459 Train F1 Landslides: 0.496974 Test F1 Background: 0.979217 Test F1 Landslides: 0.240745
36 Train loss: 0.005576 Test loss: 0.00981 Train F1 Background: 0.984643 Train F1 Landslides: 0.505926 Test F1 Background: 0.979657 Test F1 Landslides: 0.279435
37 Train loss: 0.005511 Test loss: 0.009675 Train F1 Background: 0.984805 Train F1 Landslides: 0.513797 Test F1 Background: 0.979484 Test F1 Landslides: 0.264068
38 Train loss: 0.005487 Test loss: 0.010121 Train F1 Background: 0.984859 Train F1 Landslides: 0.516287 Test F1 Background: 0.979921 Test F1 Landslides: 0.297252
39 Train loss: 0.005389 Test loss: 0.010196 Train F1 Background: 0.985016 Train F1 Landslides: 0.523782 Test F1 Background: 0.979982 Test F1 Landslides: 0.305452
40 Train loss: 0.005409 Test loss: 0.009657 Train F1 Background: 0.985027 Train F1 Landslides: 0.524453 Test F1 Background: 0.979371 Test F1 Landslides: 0.253584
41 Train loss: 0.005369 Test loss: 0.010045 Train F1 Background: 0.985061 Train F1 Landslides: 0.525984 Test F1 Background: 0.979771 Test F1 Landslides: 0.289865
42 Train loss: 0.0053 Test loss: 0.010163 Train F1 Background: 0.985153 Train F1 Landslides: 0.530389 Test F1 Background: 0.979585 Test F1 Landslides: 0.272933
43 Train loss: 0.005267 Test loss: 0.010855 Train F1 Background: 0.98527 Train F1 Landslides: 0.535782 Test F1 Background: 0.979827 Test F1 Landslides: 0.29973
44 Train loss: 0.005231 Test loss: 0.010647 Train F1 Background: 0.985319 Train F1 Landslides: 0.538031 Test F1 Background: 0.980596 Test F1 Landslides: 0.346795
45 Train loss: 0.005227 Test loss: 0.009961 Train F1 Background: 0.985385 Train F1 Landslides: 0.541318 Test F1 Background: 0.979407 Test F1 Landslides: 0.261157
46 Train loss: 0.005197 Test loss: 0.010578 Train F1 Background: 0.985474 Train F1 Landslides: 0.545487 Test F1 Background: 0.979525 Test F1 Landslides: 0.273095
47 Train loss: 0.005238 Test loss: 0.009823 Train F1 Background: 0.985285 Train F1 Landslides: 0.536627 Test F1 Background: 0.979061 Test F1 Landslides: 0.236186
48 Train loss: 0.005214 Test loss: 0.010569 Train F1 Background: 0.98536 Train F1 Landslides: 0.540161 Test F1 Background: 0.9798 Test F1 Landslides: 0.295154
49 Train loss: 0.005144 Test loss: 0.010383 Train F1 Background: 0.985519 Train F1 Landslides: 0.547493 Test F1 Background: 0.979795 Test F1 Landslides: 0.292559
50 Train loss: 0.005098 Test loss: 0.01054 Train F1 Background: 0.985553 Train F1 Landslides: 0.548955 Test F1 Background: 0.979616 Test F1 Landslides: 0.282894
51 Train loss: 0.005098 Test loss: 0.011458 Train F1 Background: 0.985624 Train F1 Landslides: 0.552312 Test F1 Background: 0.980518 Test F1 Landslides: 0.346792
52 Train loss: 0.005029 Test loss: 0.011016 Train F1 Background: 0.985737 Train F1 Landslides: 0.557347 Test F1 Background: 0.980051 Test F1 Landslides: 0.315445
53 Train loss: 0.005049 Test loss: 0.010244 Train F1 Background: 0.985742 Train F1 Landslides: 0.55773 Test F1 Background: 0.979491 Test F1 Landslides: 0.266604
54 Train loss: 0.005006 Test loss: 0.010414 Train F1 Background: 0.985782 Train F1 Landslides: 0.559436 Test F1 Background: 0.979464 Test F1 Landslides: 0.267691
55 Train loss: 0.00507 Test loss: 0.011932 Train F1 Background: 0.985675 Train F1 Landslides: 0.55463 Test F1 Background: 0.980344 Test F1 Landslides: 0.340464
56 Train loss: 0.005009 Test loss: 0.010236 Train F1 Background: 0.985851 Train F1 Landslides: 0.562614 Test F1 Background: 0.979635 Test F1 Landslides: 0.28006
57 Train loss: 0.004942 Test loss: 0.01148 Train F1 Background: 0.986001 Train F1 Landslides: 0.56931 Test F1 Background: 0.980215 Test F1 Landslides: 0.326827
58 Train loss: 0.004919 Test loss: 0.010628 Train F1 Background: 0.985957 Train F1 Landslides: 0.56718 Test F1 Background: 0.980144 Test F1 Landslides: 0.315702
59 Train loss: 0.004916 Test loss: 0.010892 Train F1 Background: 0.986066 Train F1 Landslides: 0.572174 Test F1 Background: 0.980038 Test F1 Landslides: 0.311545
60 Train loss: 0.004926 Test loss: 0.009894 Train F1 Background: 0.985996 Train F1 Landslides: 0.569147 Test F1 Background: 0.979298 Test F1 Landslides: 0.251801
61 Train loss: 0.004967 Test loss: 0.011432 Train F1 Background: 0.985922 Train F1 Landslides: 0.56575 Test F1 Background: 0.980042 Test F1 Landslides: 0.319859
62 Train loss: 0.004952 Test loss: 0.011315 Train F1 Background: 0.986053 Train F1 Landslides: 0.571843 Test F1 Background: 0.980057 Test F1 Landslides: 0.313129
63 Train loss: 0.004929 Test loss: 0.010629 Train F1 Background: 0.985949 Train F1 Landslides: 0.567105 Test F1 Background: 0.979577 Test F1 Landslides: 0.274928
64 Train loss: 0.00493 Test loss: 0.010955 Train F1 Background: 0.985936 Train F1 Landslides: 0.56637 Test F1 Background: 0.980045 Test F1 Landslides: 0.305597
65 Train loss: 0.004933 Test loss: 0.012227 Train F1 Background: 0.98606 Train F1 Landslides: 0.572045 Test F1 Background: 0.980701 Test F1 Landslides: 0.364108
66 Train loss: 0.004887 Test loss: 0.010226 Train F1 Background: 0.986132 Train F1 Landslides: 0.575157 Test F1 Background: 0.980126 Test F1 Landslides: 0.308078
67 Train loss: 0.004871 Test loss: 0.010766 Train F1 Background: 0.9861 Train F1 Landslides: 0.573769 Test F1 Background: 0.980035 Test F1 Landslides: 0.309106
68 Train loss: 0.004849 Test loss: 0.010531 Train F1 Background: 0.986226 Train F1 Landslides: 0.5793 Test F1 Background: 0.979868 Test F1 Landslides: 0.292955
69 Train loss: 0.004816 Test loss: 0.011352 Train F1 Background: 0.98621 Train F1 Landslides: 0.578494 Test F1 Background: 0.980006 Test F1 Landslides: 0.314718
70 Train loss: 0.00481 Test loss: 0.010828 Train F1 Background: 0.98626 Train F1 Landslides: 0.580716 Test F1 Background: 0.979887 Test F1 Landslides: 0.298496
71 Train loss: 0.004756 Test loss: 0.011011 Train F1 Background: 0.986341 Train F1 Landslides: 0.584248 Test F1 Background: 0.980224 Test F1 Landslides: 0.32393
72 Train loss: 0.004776 Test loss: 0.010888 Train F1 Background: 0.986316 Train F1 Landslides: 0.58315 Test F1 Background: 0.979822 Test F1 Landslides: 0.295788
73 Train loss: 0.00478 Test loss: 0.010849 Train F1 Background: 0.986385 Train F1 Landslides: 0.586254 Test F1 Background: 0.979654 Test F1 Landslides: 0.283332
74 Train loss: 0.004786 Test loss: 0.013055 Train F1 Background: 0.986296 Train F1 Landslides: 0.582287 Test F1 Background: 0.98109 Test F1 Landslides: 0.396078
75 Train loss: 0.004777 Test loss: 0.011183 Train F1 Background: 0.986314 Train F1 Landslides: 0.58317 Test F1 Background: 0.98032 Test F1 Landslides: 0.325993
76 Train loss: 0.004757 Test loss: 0.011369 Train F1 Background: 0.986404 Train F1 Landslides: 0.587039 Test F1 Background: 0.979903 Test F1 Landslides: 0.308834
77 Train loss: 0.00477 Test loss: 0.010942 Train F1 Background: 0.986311 Train F1 Landslides: 0.582962 Test F1 Background: 0.980543 Test F1 Landslides: 0.340552
78 Train loss: 0.004744 Test loss: 0.011124 Train F1 Background: 0.98642 Train F1 Landslides: 0.58784 Test F1 Background: 0.979447 Test F1 Landslides: 0.270816
79 Train loss: 0.004743 Test loss: 0.01126 Train F1 Background: 0.986375 Train F1 Landslides: 0.585757 Test F1 Background: 0.980748 Test F1 Landslides: 0.35765
80 Train loss: 0.004738 Test loss: 0.01063 Train F1 Background: 0.98648 Train F1 Landslides: 0.590381 Test F1 Background: 0.979449 Test F1 Landslides: 0.265437
81 Train loss: 0.004767 Test loss: 0.012734 Train F1 Background: 0.98635 Train F1 Landslides: 0.584744 Test F1 Background: 0.98055 Test F1 Landslides: 0.36239
82 Train loss: 0.004714 Test loss: 0.011138 Train F1 Background: 0.986456 Train F1 Landslides: 0.589329 Test F1 Background: 0.979896 Test F1 Landslides: 0.299297
83 Train loss: 0.004705 Test loss: 0.011425 Train F1 Background: 0.986523 Train F1 Landslides: 0.592216 Test F1 Background: 0.980019 Test F1 Landslides: 0.306609
84 Train loss: 0.00471 Test loss: 0.011825 Train F1 Background: 0.986399 Train F1 Landslides: 0.586777 Test F1 Background: 0.980482 Test F1 Landslides: 0.343744
85 Train loss: 0.004694 Test loss: 0.011753 Train F1 Background: 0.986604 Train F1 Landslides: 0.595717 Test F1 Background: 0.979803 Test F1 Landslides: 0.301143
86 Train loss: 0.004699 Test loss: 0.011466 Train F1 Background: 0.98649 Train F1 Landslides: 0.59085 Test F1 Background: 0.980162 Test F1 Landslides: 0.320958
87 Train loss: 0.004676 Test loss: 0.011236 Train F1 Background: 0.986514 Train F1 Landslides: 0.59178 Test F1 Background: 0.980112 Test F1 Landslides: 0.311816
88 Train loss: 0.004638 Test loss: 0.011408 Train F1 Background: 0.98665 Train F1 Landslides: 0.597625 Test F1 Background: 0.980317 Test F1 Landslides: 0.329416
89 Train loss: 0.00462 Test loss: 0.011422 Train F1 Background: 0.986682 Train F1 Landslides: 0.598942 Test F1 Background: 0.980153 Test F1 Landslides: 0.320628
90 Train loss: 0.004604 Test loss: 0.011924 Train F1 Background: 0.986699 Train F1 Landslides: 0.599667 Test F1 Background: 0.980254 Test F1 Landslides: 0.332043
91 Train loss: 0.004607 Test loss: 0.011695 Train F1 Background: 0.986673 Train F1 Landslides: 0.59854 Test F1 Background: 0.980016 Test F1 Landslides: 0.309676
92 Train loss: 0.004598 Test loss: 0.012121 Train F1 Background: 0.986667 Train F1 Landslides: 0.598273 Test F1 Background: 0.980416 Test F1 Landslides: 0.340201
93 Train loss: 0.00461 Test loss: 0.011428 Train F1 Background: 0.986674 Train F1 Landslides: 0.598622 Test F1 Background: 0.98022 Test F1 Landslides: 0.322529
94 Train loss: 0.004614 Test loss: 0.011496 Train F1 Background: 0.986746 Train F1 Landslides: 0.601683 Test F1 Background: 0.980037 Test F1 Landslides: 0.315124
95 Train loss: 0.004597 Test loss: 0.012093 Train F1 Background: 0.986741 Train F1 Landslides: 0.601456 Test F1 Background: 0.980248 Test F1 Landslides: 0.331993
96 Train loss: 0.004585 Test loss: 0.011936 Train F1 Background: 0.986788 Train F1 Landslides: 0.603459 Test F1 Background: 0.980327 Test F1 Landslides: 0.333822
97 Train loss: 0.004566 Test loss: 0.011874 Train F1 Background: 0.986787 Train F1 Landslides: 0.603378 Test F1 Background: 0.98038 Test F1 Landslides: 0.336615
98 Train loss: 0.004577 Test loss: 0.011929 Train F1 Background: 0.986775 Train F1 Landslides: 0.602932 Test F1 Background: 0.980103 Test F1 Landslides: 0.319547
99 Train loss: 0.004605 Test loss: 0.012828 Train F1 Background: 0.986785 Train F1 Landslides: 0.603394 Test F1 Background: 0.980291 Test F1 Landslides: 0.33831
100 Train loss: 0.004594 Test loss: 0.011279 Train F1 Background: 0.986757 Train F1 Landslides: 0.602222 Test F1 Background: 0.979831 Test F1 Landslides: 0.296063
101 Train loss: 0.004602 Test loss: 0.011987 Train F1 Background: 0.986766 Train F1 Landslides: 0.602556 Test F1 Background: 0.98 Test F1 Landslides: 0.310049
102 Train loss: 0.004594 Test loss: 0.012221 Train F1 Background: 0.986786 Train F1 Landslides: 0.603395 Test F1 Background: 0.980524 Test F1 Landslides: 0.349178
103 Train loss: 0.004575 Test loss: 0.011451 Train F1 Background: 0.986876 Train F1 Landslides: 0.607242 Test F1 Background: 0.98 Test F1 Landslides: 0.312444
104 Train loss: 0.004547 Test loss: 0.013387 Train F1 Background: 0.986861 Train F1 Landslides: 0.606593 Test F1 Background: 0.980471 Test F1 Landslides: 0.350914
105 Train loss: 0.004574 Test loss: 0.011923 Train F1 Background: 0.986793 Train F1 Landslides: 0.603677 Test F1 Background: 0.980385 Test F1 Landslides: 0.336105
106 Train loss: 0.004563 Test loss: 0.012949 Train F1 Background: 0.986852 Train F1 Landslides: 0.606237 Test F1 Background: 0.980877 Test F1 Landslides: 0.376545
107 Train loss: 0.004625 Test loss: 0.01319 Train F1 Background: 0.986781 Train F1 Landslides: 0.6033 Test F1 Background: 0.980052 Test F1 Landslides: 0.326134
108 Train loss: 0.004669 Test loss: 0.013035 Train F1 Background: 0.986601 Train F1 Landslides: 0.595637 Test F1 Background: 0.98059 Test F1 Landslides: 0.358699
109 Train loss: 0.004737 Test loss: 0.01279 Train F1 Background: 0.986587 Train F1 Landslides: 0.595222 Test F1 Background: 0.980389 Test F1 Landslides: 0.33764
110 Train loss: 0.004791 Test loss: 0.011923 Train F1 Background: 0.986466 Train F1 Landslides: 0.58992 Test F1 Background: 0.980168 Test F1 Landslides: 0.330248
111 Train loss: 0.004812 Test loss: 0.011642 Train F1 Background: 0.986477 Train F1 Landslides: 0.590555 Test F1 Background: 0.979183 Test F1 Landslides: 0.244183
112 Train loss: 0.004881 Test loss: 0.013249 Train F1 Background: 0.98632 Train F1 Landslides: 0.583759 Test F1 Background: 0.980783 Test F1 Landslides: 0.366583
113 Train loss: 0.0072 Test loss: 49.634804 Train F1 Background: 0.983547 Train F1 Landslides: 0.453792 Test F1 Background: 0.317075 Test F1 Landslides: 0.093802
114 Train loss: 0.010476 Test loss: 0.022297 Train F1 Background: 0.976989 Train F1 Landslides: 6.5e-05 Test F1 Background: 0.976346 Test F1 Landslides: 0.005728
115 Train loss: 0.009681 Test loss: 0.00985 Train F1 Background: 0.976989 Train F1 Landslides: 2e-06 Test F1 Background: 0.976406 Test F1 Landslides: 0.008315
116 Train loss: 0.009149 Test loss: 0.009311 Train F1 Background: 0.976994 Train F1 Landslides: 0.000466 Test F1 Background: 0.976325 Test F1 Landslides: 0.000119
117 Train loss: 0.008908 Test loss: 0.008346 Train F1 Background: 0.977055 Train F1 Landslides: 0.006218 Test F1 Background: 0.976336 Test F1 Landslides: 0.0011
118 Train loss: 0.008626 Test loss: 0.011709 Train F1 Background: 0.977277 Train F1 Landslides: 0.026517 Test F1 Background: 0.977179 Test F1 Landslides: 0.112312
119 Train loss: 0.00828 Test loss: 0.009045 Train F1 Background: 0.977594 Train F1 Landslides: 0.053696 Test F1 Background: 0.976328 Test F1 Landslides: 0.000411
120 Train loss: 0.008184 Test loss: 0.008173 Train F1 Background: 0.97797 Train F1 Landslides: 0.084942 Test F1 Background: 0.976675 Test F1 Landslides: 0.032342
121 Train loss: 0.00801 Test loss: 0.008832 Train F1 Background: 0.97849 Train F1 Landslides: 0.127323 Test F1 Background: 0.976504 Test F1 Landslides: 0.016186
122 Train loss: 0.00775 Test loss: 0.008196 Train F1 Background: 0.978891 Train F1 Landslides: 0.157657 Test F1 Background: 0.97754 Test F1 Landslides: 0.106192
123 Train loss: 0.007609 Test loss: 0.008921 Train F1 Background: 0.979737 Train F1 Landslides: 0.220225 Test F1 Background: 0.978501 Test F1 Landslides: 0.195714
124 Train loss: 0.007563 Test loss: 0.008889 Train F1 Background: 0.980066 Train F1 Landslides: 0.243206 Test F1 Background: 0.976762 Test F1 Landslides: 0.039098
125 Train loss: 0.007315 Test loss: 0.009489 Train F1 Background: 0.98039 Train F1 Landslides: 0.264722 Test F1 Background: 0.97856 Test F1 Landslides: 0.214419
126 Train loss: 0.007157 Test loss: 0.008381 Train F1 Background: 0.980916 Train F1 Landslides: 0.299034 Test F1 Background: 0.97857 Test F1 Landslides: 0.190574
127 Train loss: 0.006882 Test loss: 0.008415 Train F1 Background: 0.981673 Train F1 Landslides: 0.346571 Test F1 Background: 0.977926 Test F1 Landslides: 0.138223
128 Train loss: 0.0069 Test loss: 0.008711 Train F1 Background: 0.98148 Train F1 Landslides: 0.334051 Test F1 Background: 0.979118 Test F1 Landslides: 0.238427
129 Train loss: 0.006488 Test loss: 0.008707 Train F1 Background: 0.982607 Train F1 Landslides: 0.400397 Test F1 Background: 0.978637 Test F1 Landslides: 0.197852
130 Train loss: 0.006305 Test loss: 0.009258 Train F1 Background: 0.983096 Train F1 Landslides: 0.427252 Test F1 Background: 0.978403 Test F1 Landslides: 0.181214
131 Train loss: 0.006234 Test loss: 0.008754 Train F1 Background: 0.983153 Train F1 Landslides: 0.4303 Test F1 Background: 0.978808 Test F1 Landslides: 0.21373
132 Train loss: 0.006129 Test loss: 0.008637 Train F1 Background: 0.983476 Train F1 Landslides: 0.447523 Test F1 Background: 0.978423 Test F1 Landslides: 0.181766
133 Train loss: 0.005851 Test loss: 0.009021 Train F1 Background: 0.984024 Train F1 Landslides: 0.475876 Test F1 Background: 0.9791 Test F1 Landslides: 0.234753
134 Train loss: 0.005691 Test loss: 0.008997 Train F1 Background: 0.984185 Train F1 Landslides: 0.483659 Test F1 Background: 0.979781 Test F1 Landslides: 0.283103
135 Train loss: 0.005598 Test loss: 0.009324 Train F1 Background: 0.984477 Train F1 Landslides: 0.498484 Test F1 Background: 0.979599 Test F1 Landslides: 0.27226
136 Train loss: 0.005481 Test loss: 0.009694 Train F1 Background: 0.984693 Train F1 Landslides: 0.50892 Test F1 Background: 0.979757 Test F1 Landslides: 0.286857
137 Train loss: 0.00532 Test loss: 0.009215 Train F1 Background: 0.984884 Train F1 Landslides: 0.517923 Test F1 Background: 0.979391 Test F1 Landslides: 0.257868
138 Train loss: 0.005235 Test loss: 0.00969 Train F1 Background: 0.985118 Train F1 Landslides: 0.52904 Test F1 Background: 0.980069 Test F1 Landslides: 0.308798
139 Train loss: 0.00541 Test loss: 0.01096 Train F1 Background: 0.984967 Train F1 Landslides: 0.522311 Test F1 Background: 0.980844 Test F1 Landslides: 0.373472
140 Train loss: 0.005224 Test loss: 0.009559 Train F1 Background: 0.985157 Train F1 Landslides: 0.530921 Test F1 Background: 0.979163 Test F1 Landslides: 0.241623
141 Train loss: 0.005145 Test loss: 0.01019 Train F1 Background: 0.985387 Train F1 Landslides: 0.541628 Test F1 Background: 0.979698 Test F1 Landslides: 0.28738
142 Train loss: 0.005149 Test loss: 0.009125 Train F1 Background: 0.985428 Train F1 Landslides: 0.543578 Test F1 Background: 0.979221 Test F1 Landslides: 0.242806
143 Train loss: 0.005058 Test loss: 0.011083 Train F1 Background: 0.985625 Train F1 Landslides: 0.552581 Test F1 Background: 0.979879 Test F1 Landslides: 0.309131
144 Train loss: 0.004982 Test loss: 0.009875 Train F1 Background: 0.985684 Train F1 Landslides: 0.555251 Test F1 Background: 0.979865 Test F1 Landslides: 0.293838
155 Train loss: 0.0047 Test loss: 0.010571 Train F1 Background: 0.986446 Train F1 Landslides: 0.588971 Test F1 Background: 0.979598 Test F1 Landslides: 0.280445
156 Train loss: 0.004709 Test loss: 0.010869 Train F1 Background: 0.98646 Train F1 Landslides: 0.589596 Test F1 Background: 0.98046 Test F1 Landslides: 0.33877
157 Train loss: 0.004689 Test loss: 0.010437 Train F1 Background: 0.986546 Train F1 Landslides: 0.593408 Test F1 Background: 0.979504 Test F1 Landslides: 0.272127
158 Train loss: 0.00473 Test loss: 0.010631 Train F1 Background: 0.986468 Train F1 Landslides: 0.589897 Test F1 Background: 0.980379 Test F1 Landslides: 0.333106
159 Train loss: 0.00475 Test loss: 0.011966 Train F1 Background: 0.986567 Train F1 Landslides: 0.594473 Test F1 Background: 0.98037 Test F1 Landslides: 0.342185
160 Train loss: 0.004695 Test loss: 0.010847 Train F1 Background: 0.986527 Train F1 Landslides: 0.592608 Test F1 Background: 0.980163 Test F1 Landslides: 0.319198
161 Train loss: 0.004671 Test loss: 0.010548 Train F1 Background: 0.986559 Train F1 Landslides: 0.593901 Test F1 Background: 0.980079 Test F1 Landslides: 0.311775
162 Train loss: 0.004671 Test loss: 0.011223 Train F1 Background: 0.986605 Train F1 Landslides: 0.595885 Test F1 Background: 0.980858 Test F1 Landslides: 0.362794
163 Train loss: 0.004612 Test loss: 0.011133 Train F1 Background: 0.986688 Train F1 Landslides: 0.59944 Test F1 Background: 0.980252 Test F1 Landslides: 0.328113
164 Train loss: 0.004665 Test loss: 0.011053 Train F1 Background: 0.986602 Train F1 Landslides: 0.595682 Test F1 Background: 0.980689 Test F1 Landslides: 0.355349
165 Train loss: 0.004665 Test loss: 0.011056 Train F1 Background: 0.986736 Train F1 Landslides: 0.601612 Test F1 Background: 0.979845 Test F1 Landslides: 0.296198
166 Train loss: 0.004664 Test loss: 0.011366 Train F1 Background: 0.986578 Train F1 Landslides: 0.594691 Test F1 Background: 0.979595 Test F1 Landslides: 0.277061
167 Train loss: 0.004613 Test loss: 0.012765 Train F1 Background: 0.986661 Train F1 Landslides: 0.598256 Test F1 Background: 0.980792 Test F1 Landslides: 0.370914
168 Train loss: 0.004581 Test loss: 0.011372 Train F1 Background: 0.986744 Train F1 Landslides: 0.601747 Test F1 Background: 0.980471 Test F1 Landslides: 0.342625
169 Train loss: 0.004574 Test loss: 0.011908 Train F1 Background: 0.986812 Train F1 Landslides: 0.604588 Test F1 Background: 0.980768 Test F1 Landslides: 0.367702
170 Train loss: 0.004576 Test loss: 0.011538 Train F1 Background: 0.986861 Train F1 Landslides: 0.606661 Test F1 Background: 0.980791 Test F1 Landslides: 0.361997
171 Train loss: 0.004562 Test loss: 0.011743 Train F1 Background: 0.986929 Train F1 Landslides: 0.609595 Test F1 Background: 0.980645 Test F1 Landslides: 0.356685
172 Train loss: 0.004546 Test loss: 0.010901 Train F1 Background: 0.986877 Train F1 Landslides: 0.607293 Test F1 Background: 0.980191 Test F1 Landslides: 0.318552
173 Train loss: 0.004538 Test loss: 0.012144 Train F1 Background: 0.986992 Train F1 Landslides: 0.61224 Test F1 Background: 0.980504 Test F1 Landslides: 0.348635
174 Train loss: 0.004549 Test loss: 0.012027 Train F1 Background: 0.986849 Train F1 Landslides: 0.606067 Test F1 Background: 0.981005 Test F1 Landslides: 0.380846
175 Train loss: 0.004557 Test loss: 0.011177 Train F1 Background: 0.98702 Train F1 Landslides: 0.613383 Test F1 Background: 0.980279 Test F1 Landslides: 0.330715
176 Train loss: 0.004541 Test loss: 0.011223 Train F1 Background: 0.986973 Train F1 Landslides: 0.611355 Test F1 Background: 0.980353 Test F1 Landslides: 0.329841
177 Train loss: 0.004504 Test loss: 0.011514 Train F1 Background: 0.987063 Train F1 Landslides: 0.615126 Test F1 Background: 0.980094 Test F1 Landslides: 0.317867
178 Train loss: 0.004536 Test loss: 0.011918 Train F1 Background: 0.986932 Train F1 Landslides: 0.609696 Test F1 Background: 0.980941 Test F1 Landslides: 0.372581
179 Train loss: 0.004507 Test loss: 0.01176 Train F1 Background: 0.987009 Train F1 Landslides: 0.612911 Test F1 Background: 0.980573 Test F1 Landslides: 0.349364
180 Train loss: 0.004499 Test loss: 0.011492 Train F1 Background: 0.98709 Train F1 Landslides: 0.616314 Test F1 Background: 0.980184 Test F1 Landslides: 0.320174
181 Train loss: 0.004519 Test loss: 0.011238 Train F1 Background: 0.986993 Train F1 Landslides: 0.612189 Test F1 Background: 0.980166 Test F1 Landslides: 0.31807
182 Train loss: 0.004525 Test loss: 0.012104 Train F1 Background: 0.986964 Train F1 Landslides: 0.611024 Test F1 Background: 0.980748 Test F1 Landslides: 0.363368
183 Train loss: 0.004547 Test loss: 0.011523 Train F1 Background: 0.987024 Train F1 Landslides: 0.6136 Test F1 Background: 0.98033 Test F1 Landslides: 0.33478
184 Train loss: 0.004552 Test loss: 0.011607 Train F1 Background: 0.986977 Train F1 Landslides: 0.611687 Test F1 Background: 0.980177 Test F1 Landslides: 0.319868
185 Train loss: 0.004556 Test loss: 0.013568 Train F1 Background: 0.986932 Train F1 Landslides: 0.609735 Test F1 Background: 0.980653 Test F1 Landslides: 0.371586
186 Train loss: 0.004543 Test loss: 0.011571 Train F1 Background: 0.987002 Train F1 Landslides: 0.61266 Test F1 Background: 0.980087 Test F1 Landslides: 0.317219
187 Train loss: 0.004487 Test loss: 0.013076 Train F1 Background: 0.987057 Train F1 Landslides: 0.614839 Test F1 Background: 0.980649 Test F1 Landslides: 0.363957
188 Train loss: 0.004492 Test loss: 0.012134 Train F1 Background: 0.987104 Train F1 Landslides: 0.616822 Test F1 Background: 0.980527 Test F1 Landslides: 0.351322
189 Train loss: 0.004484 Test loss: 0.014341 Train F1 Background: 0.987084 Train F1 Landslides: 0.615959 Test F1 Background: 0.980848 Test F1 Landslides: 0.384584
190 Train loss: 0.004504 Test loss: 0.012201 Train F1 Background: 0.987105 Train F1 Landslides: 0.616907 Test F1 Background: 0.980509 Test F1 Landslides: 0.346223
191 Train loss: 0.004491 Test loss: 0.01298 Train F1 Background: 0.987104 Train F1 Landslides: 0.616817 Test F1 Background: 0.980832 Test F1 Landslides: 0.375831
192 Train loss: 0.004495 Test loss: 0.012401 Train F1 Background: 0.98714 Train F1 Landslides: 0.618374 Test F1 Background: 0.980373 Test F1 Landslides: 0.342492
193 Train loss: 0.00449 Test loss: 0.012024 Train F1 Background: 0.987076 Train F1 Landslides: 0.615779 Test F1 Background: 0.980309 Test F1 Landslides: 0.336098
194 Train loss: 0.00447 Test loss: 0.012279 Train F1 Background: 0.987084 Train F1 Landslides: 0.616017 Test F1 Background: 0.980591 Test F1 Landslides: 0.353536
195 Train loss: 0.004493 Test loss: 0.01432 Train F1 Background: 0.987086 Train F1 Landslides: 0.616085 Test F1 Background: 0.981299 Test F1 Landslides: 0.412337
196 Train loss: 0.004477 Test loss: 0.012385 Train F1 Background: 0.987142 Train F1 Landslides: 0.618494 Test F1 Background: 0.980497 Test F1 Landslides: 0.348717
197 Train loss: 0.00449 Test loss: 0.0132 Train F1 Background: 0.987083 Train F1 Landslides: 0.615981 Test F1 Background: 0.980847 Test F1 Landslides: 0.373222
198 Train loss: 0.004501 Test loss: 0.012792 Train F1 Background: 0.987103 Train F1 Landslides: 0.616877 Test F1 Background: 0.980448 Test F1 Landslides: 0.349427
199 Train loss: 0.004502 Test loss: 0.012327 Train F1 Background: 0.987082 Train F1 Landslides: 0.615903 Test F1 Background: 0.980631 Test F1 Landslides: 0.358612
Validation Loss:  0.011159 Val F1 Background:  0.983731 Val F1 Landslides:  0.386144

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▁▁▃▃▄▆▅▆▆▆█▇▇▇▇██▇▇▇▇▇▅▁▁▄▅▆▇▆▇▆▇██▇▇█▇█
Test F1 Landslides	▁▁▃▃▄▆▅▆▆▆█▇▇▇▇▇█▇▇▇▇▇▆▁▁▄▅▆▇▆▇▆▇██▇▇█▇█
Test loss	█▂▁▁▁▁▁▁▂▂▂▂▂▂▂▂▃▂▂▂▂▃▂▁▁▁▁▁▂▂▂▂▂▃▂▂▂▃▂▂
Train F1 Background	▁▁▂▄▅▅▆▆▇▇▇▇▇▇▇▇▇██████▁▂▄▆▆▇▇▇█████████
Train F1 Landslides	▁▁▃▄▅▆▆▇▇▇▇▇▇██████████▁▂▅▆▇▇▇██████████
Train loss	█▃▂▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▂▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.98063
Test F1 Landslides	0.35861
Test loss	0.01233
Train F1 Background	0.98708
Train F1 Landslides	0.6159
Train loss	0.0045
Val F1 Background	0.98373
Val F1 Landslides	0.38614
Val Loss	0.01116

View run lively-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/q2cca3lh
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231014_220959-q2cca3lh/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Cropping

cropped_eda_train_data = SegmentationDataset(root='data', split='cropped', transform_mode='to_tensor')
cropped_eda_train_loader = DataLoader(cropped_eda_train_data, batch_size=64, shuffle=False)

cropped_eda_train_data_augmentation = SegmentationDataset(root='data', split='cropped', transform_mode='color_jitter')
cropped_eda_train_loader_augmentation = DataLoader(cropped_eda_train_data_augmentation, batch_size=64, shuffle=False)

images, masks = next(iter(cropped_eda_train_loader))
augmented_images, augmented_masks = next(iter(cropped_eda_train_loader_augmentation))

# Erstellen Sie eine Plotfigur
fig, axs = plt.subplots(20, 4, figsize=(16, 40))  # 20 Reihen, 4 Spalten

for i in range(20):
    # Bild und Maske mit to_tensor Transformation
    image = images[i].numpy().transpose((1, 2, 0))
    axs[i, 0].imshow(image)
    axs[i, 0].set_title(f'Beispiel {i + 1}: Bild ohne Augmentation')
    
    mask = masks[i][0].numpy()
    axs[i, 1].imshow(mask, cmap="gray")
    axs[i, 1].set_title(f'Beispiel {i + 1}: Maske ohne Augmentation')

    # Bild und Maske mit color_jitter Transformation
    image = augmented_images[i].numpy().transpose((1, 2, 0))
    axs[i, 2].imshow(image)
    axs[i, 2].set_title(f'Beispiel {i + 1}: Bild mit Augmentation')
    
    mask = augmented_masks[i][0].numpy()
    axs[i, 3].imshow(mask, cmap="gray")
    axs[i, 3].set_title(f'Beispiel {i + 1}: Maske mit Augmentation')

plt.tight_layout()
plt.show()

print("Grösser der Bilder:", images.shape)
print("Grösse der Masken:", masks.shape)

Grösser der Bilder: torch.Size([64, 3, 128, 128])
Grösse der Masken: torch.Size([64, 1, 128, 128])

unique_values = set()

for images, masks in cropped_eda_train_loader:
    for mask in masks:
        values = np.unique(mask.numpy())
        unique_values.update(values)

print("Anzahl unterschiedlicher Klassen/Farbtöne: ", len(unique_values))
print("Die unterschiedlichen Klassen/Farbtöne: ", values)

Anzahl unterschiedlicher Klassen/Farbtöne:  2
Die unterschiedlichen Klassen/Farbtöne:  [0. 1.]

def do_modeltrain_cropped(config, model, device, transform_train):
    
    train_data = SegmentationDataset(root='data', split='cropped', transform_mode=transform_train)
    train_loader = DataLoader(train_data, batch_size=config.batchsize, shuffle=True, num_workers = 10)

    test_data = SegmentationDataset(root='data', split='test', transform_mode='to_tensor')
    test_loader = DataLoader(test_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)

    val_data = SegmentationDataset(root='data', split='validation', transform_mode='to_tensor')
    val_loader = DataLoader(val_data, batch_size=config.batchsize, shuffle=False, num_workers = 10)
    
    loss_fn = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([weight_1]).to(device))
    optimizer = optim.Adam(model.parameters(), lr=config.learn_rate, weight_decay=config.l2_penalty)

    for t in range(config.epochs):
        train_loss, train_f1_background, train_f1_landslide= train_binary(train_loader, model, loss_fn, optimizer, device)
        test_loss, test_f1_background, test_f1_landslide = test_binary(test_loader, model, loss_fn, device)
        
        # Übermittlung der Daten an W&B
        wandb.log({"Train loss": train_loss, "Test loss": test_loss, "Train F1 Background": train_f1_background, "Train F1 Landslides": train_f1_landslide, "Test F1 Background": test_f1_background, "Test F1 Landslides": test_f1_landslide})
        print(t, "Train loss:", round(train_loss, 6), "Test loss:", round(test_loss, 6), "Train F1 Background:", round(train_f1_background, 6), "Train F1 Landslides:", round(train_f1_landslide, 6), "Test F1 Background:", round(test_f1_background, 6), "Test F1 Landslides:", round(test_f1_landslide, 6))

    val_loss, f1_val_background, f1_val_landslide = validation_binary(val_loader, model, loss_fn, device)
    wandb.log({"Val Loss": val_loss, "Val F1 Background": f1_val_background, "Val F1 Landslides": f1_val_landslide})

    print("Validation Loss: ", round(val_loss, 6), "Val F1 Background: ", round(f1_val_background, 6), "Val F1 Landslides: ", round(f1_val_landslide, 6))
    
    plot_samples_binary(train_loader, model, device, "Training")
    plot_samples_binary(val_loader, model, device, "Validation")
    
    wandb.config["Model Name"] = model.__class__.__name__ 

FCN

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Cropped FCN",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [80]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_cropped_fcn = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides FCN",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain_cropped(config, model, device, transform_train = "to_tensor")

    torch.save(model.state_dict(), "weights/model_cropped_fcn.pth")

wandb.agent(sweep_cropped_fcn, function=main)
wandb.finish()

Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

Create sweep with ID: thwqyfp1
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/thwqyfp1

wandb: Agent Starting Run: 0ba7rr4d with config:
wandb: 	batchsize: 64
wandb: 	epochs: 80
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.
wandb: Currently logged in as: patschue. Use `wandb login --relogin` to force relogin

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231018_151925-0ba7rr4d

Syncing run wild-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/thwqyfp1

View project at https://wandb.ai/patschue/DLBS%20Landslides%20FCN

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/sweeps/thwqyfp1

View run at https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/0ba7rr4d

0 Train loss: 0.122549 Test loss: 0.032761 Train F1 Background: 0.977311 Train F1 Landslides: 0.0486 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.011139 Test loss: 0.020237 Train F1 Background: 0.99221 Train F1 Landslides: 0.0 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.006593 Test loss: 0.019437 Train F1 Background: 0.99221 Train F1 Landslides: 0.000127 Test F1 Background: 0.976329 Test F1 Landslides: 0.000544
3 Train loss: 0.004957 Test loss: 0.014947 Train F1 Background: 0.992211 Train F1 Landslides: 0.000516 Test F1 Background: 0.976323 Test F1 Landslides: 1.3e-05
4 Train loss: 0.004079 Test loss: 0.019274 Train F1 Background: 0.992222 Train F1 Landslides: 0.003198 Test F1 Background: 0.976359 Test F1 Landslides: 0.004338
5 Train loss: 0.003633 Test loss: 0.01839 Train F1 Background: 0.992254 Train F1 Landslides: 0.01153 Test F1 Background: 0.976344 Test F1 Landslides: 0.01757
6 Train loss: 0.003315 Test loss: 0.010545 Train F1 Background: 0.992347 Train F1 Landslides: 0.035669 Test F1 Background: 0.976339 Test F1 Landslides: 0.001868
7 Train loss: 0.003152 Test loss: 0.010646 Train F1 Background: 0.992375 Train F1 Landslides: 0.042642 Test F1 Background: 0.976532 Test F1 Landslides: 0.020899
8 Train loss: 0.002926 Test loss: 0.019735 Train F1 Background: 0.992584 Train F1 Landslides: 0.094288 Test F1 Background: 0.977217 Test F1 Landslides: 0.189246
9 Train loss: 0.002805 Test loss: 0.014257 Train F1 Background: 0.992675 Train F1 Landslides: 0.115239 Test F1 Background: 0.977665 Test F1 Landslides: 0.174829
10 Train loss: 0.002726 Test loss: 0.043714 Train F1 Background: 0.99285 Train F1 Landslides: 0.155475 Test F1 Background: 0.969244 Test F1 Landslides: 0.259912
11 Train loss: 0.002674 Test loss: 0.030366 Train F1 Background: 0.992775 Train F1 Landslides: 0.139582 Test F1 Background: 0.973637 Test F1 Landslides: 0.238913
12 Train loss: 0.002594 Test loss: 0.018336 Train F1 Background: 0.9929 Train F1 Landslides: 0.166384 Test F1 Background: 0.977923 Test F1 Landslides: 0.166572
13 Train loss: 0.002545 Test loss: 0.013736 Train F1 Background: 0.993022 Train F1 Landslides: 0.193311 Test F1 Background: 0.97747 Test F1 Landslides: 0.149003
14 Train loss: 0.002444 Test loss: 0.012138 Train F1 Background: 0.993216 Train F1 Landslides: 0.233211 Test F1 Background: 0.97688 Test F1 Landslides: 0.059553
15 Train loss: 0.002418 Test loss: 0.017352 Train F1 Background: 0.993259 Train F1 Landslides: 0.242249 Test F1 Background: 0.976795 Test F1 Landslides: 0.098135
16 Train loss: 0.00238 Test loss: 0.019299 Train F1 Background: 0.993312 Train F1 Landslides: 0.252673 Test F1 Background: 0.975761 Test F1 Landslides: 0.106115
17 Train loss: 0.002329 Test loss: 0.016157 Train F1 Background: 0.993434 Train F1 Landslides: 0.276441 Test F1 Background: 0.977764 Test F1 Landslides: 0.242266
18 Train loss: 0.002345 Test loss: 0.01946 Train F1 Background: 0.993386 Train F1 Landslides: 0.267599 Test F1 Background: 0.977946 Test F1 Landslides: 0.229848
19 Train loss: 0.002261 Test loss: 0.038739 Train F1 Background: 0.993518 Train F1 Landslides: 0.291903 Test F1 Background: 0.970271 Test F1 Landslides: 0.206557
20 Train loss: 0.002586 Test loss: 0.01712 Train F1 Background: 0.992504 Train F1 Landslides: 0.07581 Test F1 Background: 0.976462 Test F1 Landslides: 0.060403
21 Train loss: 0.002411 Test loss: 0.023452 Train F1 Background: 0.992776 Train F1 Landslides: 0.138883 Test F1 Background: 0.975147 Test F1 Landslides: 0.185004
22 Train loss: 0.002312 Test loss: 0.019295 Train F1 Background: 0.993184 Train F1 Landslides: 0.226815 Test F1 Background: 0.975637 Test F1 Landslides: 0.136598
23 Train loss: 0.002242 Test loss: 0.05507 Train F1 Background: 0.993405 Train F1 Landslides: 0.270466 Test F1 Background: 0.965995 Test F1 Landslides: 0.261872
24 Train loss: 0.00216 Test loss: 0.015687 Train F1 Background: 0.9937 Train F1 Landslides: 0.325847 Test F1 Background: 0.977069 Test F1 Landslides: 0.15002
25 Train loss: 0.002133 Test loss: 0.020642 Train F1 Background: 0.993801 Train F1 Landslides: 0.343669 Test F1 Background: 0.97559 Test F1 Landslides: 0.185948
26 Train loss: 0.002155 Test loss: 0.053223 Train F1 Background: 0.993731 Train F1 Landslides: 0.330976 Test F1 Background: 0.968611 Test F1 Landslides: 0.315785
27 Train loss: 0.002184 Test loss: 0.0176 Train F1 Background: 0.993643 Train F1 Landslides: 0.315603 Test F1 Background: 0.977513 Test F1 Landslides: 0.222245
28 Train loss: 0.002118 Test loss: 0.020103 Train F1 Background: 0.993848 Train F1 Landslides: 0.352276 Test F1 Background: 0.976416 Test F1 Landslides: 0.188562
29 Train loss: 0.002042 Test loss: 0.064733 Train F1 Background: 0.99406 Train F1 Landslides: 0.388074 Test F1 Background: 0.96775 Test F1 Landslides: 0.328507
30 Train loss: 0.00199 Test loss: 0.034231 Train F1 Background: 0.994268 Train F1 Landslides: 0.422312 Test F1 Background: 0.973404 Test F1 Landslides: 0.277027
31 Train loss: 0.001959 Test loss: 0.03883 Train F1 Background: 0.994267 Train F1 Landslides: 0.421783 Test F1 Background: 0.972614 Test F1 Landslides: 0.291375
32 Train loss: 0.001928 Test loss: 0.059545 Train F1 Background: 0.994367 Train F1 Landslides: 0.43784 Test F1 Background: 0.968232 Test F1 Landslides: 0.290554
33 Train loss: 0.0019 Test loss: 0.04628 Train F1 Background: 0.994476 Train F1 Landslides: 0.45451 Test F1 Background: 0.973734 Test F1 Landslides: 0.351566
34 Train loss: 0.00189 Test loss: 0.040073 Train F1 Background: 0.994505 Train F1 Landslides: 0.459125 Test F1 Background: 0.971971 Test F1 Landslides: 0.248913
35 Train loss: 0.001867 Test loss: 0.038668 Train F1 Background: 0.99459 Train F1 Landslides: 0.471908 Test F1 Background: 0.974456 Test F1 Landslides: 0.319717
36 Train loss: 0.001822 Test loss: 0.029584 Train F1 Background: 0.994692 Train F1 Landslides: 0.487059 Test F1 Background: 0.975779 Test F1 Landslides: 0.292194
37 Train loss: 0.001829 Test loss: 0.06004 Train F1 Background: 0.994641 Train F1 Landslides: 0.479647 Test F1 Background: 0.968098 Test F1 Landslides: 0.292414
38 Train loss: 0.001819 Test loss: 0.056034 Train F1 Background: 0.994675 Train F1 Landslides: 0.484608 Test F1 Background: 0.970124 Test F1 Landslides: 0.317468
39 Train loss: 0.001775 Test loss: 0.025972 Train F1 Background: 0.994822 Train F1 Landslides: 0.505895 Test F1 Background: 0.97601 Test F1 Landslides: 0.249158
40 Train loss: 0.001773 Test loss: 0.043763 Train F1 Background: 0.994828 Train F1 Landslides: 0.506747 Test F1 Background: 0.972952 Test F1 Landslides: 0.328275
41 Train loss: 0.001728 Test loss: 0.079799 Train F1 Background: 0.994924 Train F1 Landslides: 0.52031 Test F1 Background: 0.967711 Test F1 Landslides: 0.314857
42 Train loss: 0.001723 Test loss: 0.072069 Train F1 Background: 0.994974 Train F1 Landslides: 0.527223 Test F1 Background: 0.968352 Test F1 Landslides: 0.345593
43 Train loss: 0.001733 Test loss: 0.048261 Train F1 Background: 0.99494 Train F1 Landslides: 0.522777 Test F1 Background: 0.971989 Test F1 Landslides: 0.315484
44 Train loss: 0.001713 Test loss: 0.033578 Train F1 Background: 0.995027 Train F1 Landslides: 0.534614 Test F1 Background: 0.975417 Test F1 Landslides: 0.321361
45 Train loss: 0.001678 Test loss: 0.029622 Train F1 Background: 0.995068 Train F1 Landslides: 0.540234 Test F1 Background: 0.975657 Test F1 Landslides: 0.2629
46 Train loss: 0.001666 Test loss: 0.050101 Train F1 Background: 0.995114 Train F1 Landslides: 0.546499 Test F1 Background: 0.972877 Test F1 Landslides: 0.324695
47 Train loss: 0.001652 Test loss: 0.048462 Train F1 Background: 0.995161 Train F1 Landslides: 0.552793 Test F1 Background: 0.973739 Test F1 Landslides: 0.344875
48 Train loss: 0.001646 Test loss: 0.060277 Train F1 Background: 0.995231 Train F1 Landslides: 0.562072 Test F1 Background: 0.970194 Test F1 Landslides: 0.317624
49 Train loss: 0.001628 Test loss: 0.0391 Train F1 Background: 0.995218 Train F1 Landslides: 0.560549 Test F1 Background: 0.9754 Test F1 Landslides: 0.351471
50 Train loss: 0.001615 Test loss: 0.058061 Train F1 Background: 0.995265 Train F1 Landslides: 0.566613 Test F1 Background: 0.972029 Test F1 Landslides: 0.347785
51 Train loss: 0.001586 Test loss: 0.049376 Train F1 Background: 0.995345 Train F1 Landslides: 0.577065 Test F1 Background: 0.973201 Test F1 Landslides: 0.33575
52 Train loss: 0.001588 Test loss: 0.035509 Train F1 Background: 0.995346 Train F1 Landslides: 0.577135 Test F1 Background: 0.974767 Test F1 Landslides: 0.259579
53 Train loss: 0.001566 Test loss: 0.084582 Train F1 Background: 0.995383 Train F1 Landslides: 0.581923 Test F1 Background: 0.968469 Test F1 Landslides: 0.351116
54 Train loss: 0.001546 Test loss: 0.062897 Train F1 Background: 0.995446 Train F1 Landslides: 0.590003 Test F1 Background: 0.971945 Test F1 Landslides: 0.360795
55 Train loss: 0.001533 Test loss: 0.05391 Train F1 Background: 0.995496 Train F1 Landslides: 0.596333 Test F1 Background: 0.972459 Test F1 Landslides: 0.349023
56 Train loss: 0.001547 Test loss: 0.052604 Train F1 Background: 0.995479 Train F1 Landslides: 0.59432 Test F1 Background: 0.972032 Test F1 Landslides: 0.306604
57 Train loss: 0.001554 Test loss: 0.077838 Train F1 Background: 0.995434 Train F1 Landslides: 0.588525 Test F1 Background: 0.969616 Test F1 Landslides: 0.362682
58 Train loss: 0.001544 Test loss: 0.051713 Train F1 Background: 0.995478 Train F1 Landslides: 0.594149 Test F1 Background: 0.972376 Test F1 Landslides: 0.301327
59 Train loss: 0.001526 Test loss: 0.048951 Train F1 Background: 0.995533 Train F1 Landslides: 0.601013 Test F1 Background: 0.973484 Test F1 Landslides: 0.335456
60 Train loss: 0.00153 Test loss: 0.053888 Train F1 Background: 0.995534 Train F1 Landslides: 0.601276 Test F1 Background: 0.971865 Test F1 Landslides: 0.327952
61 Train loss: 0.001533 Test loss: 0.064821 Train F1 Background: 0.995508 Train F1 Landslides: 0.598006 Test F1 Background: 0.972323 Test F1 Landslides: 0.366825
62 Train loss: 0.001599 Test loss: 0.031612 Train F1 Background: 0.995349 Train F1 Landslides: 0.577941 Test F1 Background: 0.974809 Test F1 Landslides: 0.096466
63 Train loss: 0.002024 Test loss: 0.034689 Train F1 Background: 0.99393 Train F1 Landslides: 0.3669 Test F1 Background: 0.974463 Test F1 Landslides: 0.271762
64 Train loss: 0.002005 Test loss: 0.032617 Train F1 Background: 0.993979 Train F1 Landslides: 0.375372 Test F1 Background: 0.972843 Test F1 Landslides: 0.192429
65 Train loss: 0.002224 Test loss: 0.011404 Train F1 Background: 0.993315 Train F1 Landslides: 0.253783 Test F1 Background: 0.977255 Test F1 Landslides: 0.090052
66 Train loss: 0.001937 Test loss: 0.041854 Train F1 Background: 0.994218 Train F1 Landslides: 0.414338 Test F1 Background: 0.972486 Test F1 Landslides: 0.297451
67 Train loss: 0.001743 Test loss: 0.051483 Train F1 Background: 0.994835 Train F1 Landslides: 0.508076 Test F1 Background: 0.972863 Test F1 Landslides: 0.352899
68 Train loss: 0.001631 Test loss: 0.047282 Train F1 Background: 0.995175 Train F1 Landslides: 0.554849 Test F1 Background: 0.974796 Test F1 Landslides: 0.360794
69 Train loss: 0.001577 Test loss: 0.038152 Train F1 Background: 0.995365 Train F1 Landslides: 0.579782 Test F1 Background: 0.974167 Test F1 Landslides: 0.300292
70 Train loss: 0.001543 Test loss: 0.047341 Train F1 Background: 0.995458 Train F1 Landslides: 0.591688 Test F1 Background: 0.973416 Test F1 Landslides: 0.326541
71 Train loss: 0.001519 Test loss: 0.045968 Train F1 Background: 0.995519 Train F1 Landslides: 0.599212 Test F1 Background: 0.974076 Test F1 Landslides: 0.341478
72 Train loss: 0.001514 Test loss: 0.056985 Train F1 Background: 0.995574 Train F1 Landslides: 0.60624 Test F1 Background: 0.972324 Test F1 Landslides: 0.346606
73 Train loss: 0.001491 Test loss: 0.055865 Train F1 Background: 0.995609 Train F1 Landslides: 0.610555 Test F1 Background: 0.972157 Test F1 Landslides: 0.341886
74 Train loss: 0.001482 Test loss: 0.050718 Train F1 Background: 0.995635 Train F1 Landslides: 0.613667 Test F1 Background: 0.973798 Test F1 Landslides: 0.362723
75 Train loss: 0.001472 Test loss: 0.055702 Train F1 Background: 0.99569 Train F1 Landslides: 0.620418 Test F1 Background: 0.973322 Test F1 Landslides: 0.37522
76 Train loss: 0.001461 Test loss: 0.056791 Train F1 Background: 0.995705 Train F1 Landslides: 0.622211 Test F1 Background: 0.973066 Test F1 Landslides: 0.355005
77 Train loss: 0.001448 Test loss: 0.048736 Train F1 Background: 0.99575 Train F1 Landslides: 0.62771 Test F1 Background: 0.974146 Test F1 Landslides: 0.344297
78 Train loss: 0.001453 Test loss: 0.069051 Train F1 Background: 0.995735 Train F1 Landslides: 0.625842 Test F1 Background: 0.971476 Test F1 Landslides: 0.361709
79 Train loss: 0.001453 Test loss: 0.040003 Train F1 Background: 0.995745 Train F1 Landslides: 0.627139 Test F1 Background: 0.975082 Test F1 Landslides: 0.316672
Validation Loss:  0.031265 Val F1 Background:  0.979809 Val F1 Landslides:  0.341427

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▇▇▇▇▇▂█▇▆█▇▆▇▁▇▅▁▄▆▂▄▁▆▄▂▄▆▄▄▄▄▆▄▄▆▅▄▅▄▆
Test F1 Landslides	▁▁▁▁▅▆▄▂▃▅▂▄▄▇▅▆▇▆▇▇▇█▇▇▇█▆█▇▇▇▃▅▇█▇███▇
Test loss	▄▂▂▁▂▅▂▁▂▂▂▂▂▆▂▄▇▄▃▆▅█▄▆▇▆▄▇▆▆▆▃▄▅▅▅▆▆▆▄
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇███████████████▇▇██████
Train F1 Landslides	▂▁▁▁▂▃▃▄▄▄▂▄▅▅▅▆▆▆▆▆▇▇▇▇▇▇▇████▇▅▆▇█████
Train loss	█▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97508
Test F1 Landslides	0.31667
Test loss	0.04
Train F1 Background	0.99575
Train F1 Landslides	0.62714
Train loss	0.00145
Val F1 Background	0.97981
Val F1 Landslides	0.34143
Val Loss	0.03126

View run wild-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20FCN/runs/0ba7rr4d
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231018_151925-0ba7rr4d/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Deeplabv3

sweep_configuration = {
    "method": "grid",
    "name": "Semantische Segmentierung Cropped Deeplabv3",
    "metric": {"goal": "minimize", "name": "Test loss"},
    "parameters": 
    {
        "epochs": {"values": [60]},
        "learn_rate": {"values": [1e-3]},
        "batchsize": {"values": [64]},
        "l2_penalty": {"values": [0]},
     }
}

sweep_cropped = wandb.sweep(sweep=sweep_configuration, project="DLBS Landslides Deeplabv3",  entity='patschue')

def main():
    run = wandb.init()

    config = run.config

    model = torchvision.models.segmentation.deeplabv3_resnet50(weights='DEFAULT')
    model.classifier[4] = nn.Conv2d(256, 1, kernel_size=(1, 1), stride=(1, 1))
    model.to(device);

    do_modeltrain_cropped(config, model, device, transform_train = "to_tensor")

    torch.save(model.state_dict(), "weights/model_cropped_deeplab.pth")

wandb.agent(sweep_cropped, function=main)
wandb.finish()

Create sweep with ID: ua3b4dat
Sweep URL: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/ua3b4dat

wandb: Agent Starting Run: tfimx6k9 with config:
wandb: 	batchsize: 64
wandb: 	epochs: 60
wandb: 	l2_penalty: 0
wandb: 	learn_rate: 0.001
Failed to detect the name of this notebook, you can set it manually with the WANDB_NOTEBOOK_NAME environment variable to enable code saving.

wandb version 0.15.12 is available! To upgrade, please run: $ pip install wandb --upgrade

Tracking run with wandb version 0.13.10

Run data is saved locally in /users/pschrman/DLBS_landslides/wandb/run-20231018_155857-tfimx6k9

Syncing run radiant-sweep-1 to Weights & Biases (docs)
Sweep page: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/ua3b4dat

View project at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3

View sweep at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/sweeps/ua3b4dat

View run at https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/tfimx6k9

0 Train loss: 0.188645 Test loss: 0.050789 Train F1 Background: 0.974842 Train F1 Landslides: 0.069904 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
1 Train loss: 0.027563 Test loss: 0.035057 Train F1 Background: 0.99221 Train F1 Landslides: 0.000192 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
2 Train loss: 0.012569 Test loss: 0.037021 Train F1 Background: 0.99221 Train F1 Landslides: 0.0 Test F1 Background: 0.975819 Test F1 Landslides: 0.002617
3 Train loss: 0.008266 Test loss: 0.030812 Train F1 Background: 0.992211 Train F1 Landslides: 0.000248 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
4 Train loss: 0.006266 Test loss: 0.02616 Train F1 Background: 0.992211 Train F1 Landslides: 0.00025 Test F1 Background: 0.976091 Test F1 Landslides: 0.000801
5 Train loss: 0.005183 Test loss: 0.023702 Train F1 Background: 0.992211 Train F1 Landslides: 0.00019 Test F1 Background: 0.976022 Test F1 Landslides: 0.000707
6 Train loss: 0.00453 Test loss: 0.027838 Train F1 Background: 0.992211 Train F1 Landslides: 0.000212 Test F1 Background: 0.976328 Test F1 Landslides: 0.000384
7 Train loss: 0.004085 Test loss: 0.026368 Train F1 Background: 0.992219 Train F1 Landslides: 0.002586 Test F1 Background: 0.976365 Test F1 Landslides: 0.003745
8 Train loss: 0.003787 Test loss: 0.019254 Train F1 Background: 0.99222 Train F1 Landslides: 0.002822 Test F1 Background: 0.976323 Test F1 Landslides: 0.0
9 Train loss: 0.003534 Test loss: 0.018495 Train F1 Background: 0.992222 Train F1 Landslides: 0.003409 Test F1 Background: 0.976384 Test F1 Landslides: 0.005501
10 Train loss: 0.003343 Test loss: 0.017343 Train F1 Background: 0.992262 Train F1 Landslides: 0.013625 Test F1 Background: 0.976444 Test F1 Landslides: 0.014803
11 Train loss: 0.003222 Test loss: 0.02751 Train F1 Background: 0.992287 Train F1 Landslides: 0.020111 Test F1 Background: 0.976976 Test F1 Landslides: 0.107986
12 Train loss: 0.003107 Test loss: 0.021269 Train F1 Background: 0.992291 Train F1 Landslides: 0.021626 Test F1 Background: 0.976616 Test F1 Landslides: 0.031169
13 Train loss: 0.003002 Test loss: 0.01636 Train F1 Background: 0.992348 Train F1 Landslides: 0.035952 Test F1 Background: 0.976615 Test F1 Landslides: 0.045504
14 Train loss: 0.002919 Test loss: 0.012257 Train F1 Background: 0.992455 Train F1 Landslides: 0.062819 Test F1 Background: 0.976669 Test F1 Landslides: 0.04377
15 Train loss: 0.002861 Test loss: 0.022082 Train F1 Background: 0.992462 Train F1 Landslides: 0.065024 Test F1 Background: 0.977333 Test F1 Landslides: 0.163625
16 Train loss: 0.002826 Test loss: 0.014667 Train F1 Background: 0.992545 Train F1 Landslides: 0.085132 Test F1 Background: 0.976663 Test F1 Landslides: 0.061771
17 Train loss: 0.002766 Test loss: 0.020743 Train F1 Background: 0.992534 Train F1 Landslides: 0.082277 Test F1 Background: 0.97733 Test F1 Landslides: 0.20377
18 Train loss: 0.002718 Test loss: 0.031188 Train F1 Background: 0.992608 Train F1 Landslides: 0.100577 Test F1 Background: 0.976046 Test F1 Landslides: 0.281485
19 Train loss: 0.002653 Test loss: 0.011951 Train F1 Background: 0.992712 Train F1 Landslides: 0.124754 Test F1 Background: 0.976505 Test F1 Landslides: 0.018988
20 Train loss: 0.002602 Test loss: 0.030958 Train F1 Background: 0.992777 Train F1 Landslides: 0.139716 Test F1 Background: 0.973759 Test F1 Landslides: 0.227132
21 Train loss: 0.002555 Test loss: 0.043547 Train F1 Background: 0.992903 Train F1 Landslides: 0.167491 Test F1 Background: 0.971221 Test F1 Landslides: 0.216213
22 Train loss: 0.002544 Test loss: 0.024668 Train F1 Background: 0.992859 Train F1 Landslides: 0.158098 Test F1 Background: 0.975684 Test F1 Landslides: 0.172446
23 Train loss: 0.002524 Test loss: 0.033021 Train F1 Background: 0.992879 Train F1 Landslides: 0.162184 Test F1 Background: 0.974678 Test F1 Landslides: 0.266045
24 Train loss: 0.002465 Test loss: 0.016728 Train F1 Background: 0.992994 Train F1 Landslides: 0.187484 Test F1 Background: 0.976922 Test F1 Landslides: 0.175181
25 Train loss: 0.002463 Test loss: 0.016665 Train F1 Background: 0.993002 Train F1 Landslides: 0.188845 Test F1 Background: 0.97642 Test F1 Landslides: 0.176499
26 Train loss: 0.002434 Test loss: 0.025067 Train F1 Background: 0.993032 Train F1 Landslides: 0.195598 Test F1 Background: 0.976865 Test F1 Landslides: 0.293606
27 Train loss: 0.00244 Test loss: 0.013686 Train F1 Background: 0.993092 Train F1 Landslides: 0.209006 Test F1 Background: 0.976483 Test F1 Landslides: 0.015461
28 Train loss: 0.002457 Test loss: 0.037841 Train F1 Background: 0.992876 Train F1 Landslides: 0.161502 Test F1 Background: 0.972668 Test F1 Landslides: 0.286742
29 Train loss: 0.002427 Test loss: 0.015597 Train F1 Background: 0.993056 Train F1 Landslides: 0.201158 Test F1 Background: 0.97687 Test F1 Landslides: 0.076043
30 Train loss: 0.002364 Test loss: 0.018515 Train F1 Background: 0.99319 Train F1 Landslides: 0.228282 Test F1 Background: 0.975485 Test F1 Landslides: 0.126211
31 Train loss: 0.002334 Test loss: 0.023987 Train F1 Background: 0.993248 Train F1 Landslides: 0.239831 Test F1 Background: 0.974749 Test F1 Landslides: 0.187737
32 Train loss: 0.002333 Test loss: 0.025571 Train F1 Background: 0.993304 Train F1 Landslides: 0.251129 Test F1 Background: 0.975103 Test F1 Landslides: 0.199518
33 Train loss: 0.002332 Test loss: 0.017564 Train F1 Background: 0.993276 Train F1 Landslides: 0.245575 Test F1 Background: 0.975804 Test F1 Landslides: 0.070909
34 Train loss: 0.002282 Test loss: 0.04282 Train F1 Background: 0.99334 Train F1 Landslides: 0.258111 Test F1 Background: 0.971139 Test F1 Landslides: 0.301723
35 Train loss: 0.002235 Test loss: 0.012971 Train F1 Background: 0.993495 Train F1 Landslides: 0.288101 Test F1 Background: 0.977045 Test F1 Landslides: 0.122691
36 Train loss: 0.002224 Test loss: 0.032886 Train F1 Background: 0.993491 Train F1 Landslides: 0.287072 Test F1 Background: 0.974301 Test F1 Landslides: 0.304908
37 Train loss: 0.002223 Test loss: 0.04675 Train F1 Background: 0.993539 Train F1 Landslides: 0.296635 Test F1 Background: 0.972253 Test F1 Landslides: 0.339919
38 Train loss: 0.002237 Test loss: 0.02316 Train F1 Background: 0.993429 Train F1 Landslides: 0.275711 Test F1 Background: 0.975795 Test F1 Landslides: 0.141456
39 Train loss: 0.002183 Test loss: 0.033694 Train F1 Background: 0.993581 Train F1 Landslides: 0.303975 Test F1 Background: 0.974294 Test F1 Landslides: 0.324101
40 Train loss: 0.002159 Test loss: 0.023165 Train F1 Background: 0.993676 Train F1 Landslides: 0.321542 Test F1 Background: 0.97594 Test F1 Landslides: 0.254816
41 Train loss: 0.002158 Test loss: 0.033631 Train F1 Background: 0.993672 Train F1 Landslides: 0.321011 Test F1 Background: 0.973602 Test F1 Landslides: 0.269864
42 Train loss: 0.0022 Test loss: 0.022761 Train F1 Background: 0.993467 Train F1 Landslides: 0.28294 Test F1 Background: 0.975722 Test F1 Landslides: 0.24224
43 Train loss: 0.002139 Test loss: 0.0306 Train F1 Background: 0.993659 Train F1 Landslides: 0.317931 Test F1 Background: 0.971974 Test F1 Landslides: 0.14352
44 Train loss: 0.002153 Test loss: 0.024598 Train F1 Background: 0.99371 Train F1 Landslides: 0.327493 Test F1 Background: 0.974464 Test F1 Landslides: 0.181659
45 Train loss: 0.002068 Test loss: 0.039587 Train F1 Background: 0.993875 Train F1 Landslides: 0.356628 Test F1 Background: 0.972387 Test F1 Landslides: 0.284274
46 Train loss: 0.002026 Test loss: 0.033997 Train F1 Background: 0.994036 Train F1 Landslides: 0.384055 Test F1 Background: 0.974523 Test F1 Landslides: 0.312253
47 Train loss: 0.002015 Test loss: 0.028859 Train F1 Background: 0.994054 Train F1 Landslides: 0.386981 Test F1 Background: 0.975089 Test F1 Landslides: 0.260365
48 Train loss: 0.002027 Test loss: 0.036157 Train F1 Background: 0.994059 Train F1 Landslides: 0.38799 Test F1 Background: 0.973535 Test F1 Landslides: 0.295066
49 Train loss: 0.002002 Test loss: 0.035548 Train F1 Background: 0.994094 Train F1 Landslides: 0.39387 Test F1 Background: 0.973835 Test F1 Landslides: 0.298662
50 Train loss: 0.001974 Test loss: 0.031558 Train F1 Background: 0.994165 Train F1 Landslides: 0.405459 Test F1 Background: 0.973949 Test F1 Landslides: 0.246285
51 Train loss: 0.001945 Test loss: 0.046378 Train F1 Background: 0.994263 Train F1 Landslides: 0.42139 Test F1 Background: 0.971262 Test F1 Landslides: 0.278629
52 Train loss: 0.001983 Test loss: 0.02834 Train F1 Background: 0.994148 Train F1 Landslides: 0.402908 Test F1 Background: 0.974785 Test F1 Landslides: 0.24343
53 Train loss: 0.00194 Test loss: 0.055174 Train F1 Background: 0.994269 Train F1 Landslides: 0.422246 Test F1 Background: 0.971202 Test F1 Landslides: 0.346679
54 Train loss: 0.001928 Test loss: 0.06131 Train F1 Background: 0.994327 Train F1 Landslides: 0.431559 Test F1 Background: 0.96762 Test F1 Landslides: 0.287129
55 Train loss: 0.001929 Test loss: 0.039712 Train F1 Background: 0.994303 Train F1 Landslides: 0.427559 Test F1 Background: 0.974305 Test F1 Landslides: 0.355389
56 Train loss: 0.001888 Test loss: 0.042223 Train F1 Background: 0.994435 Train F1 Landslides: 0.448362 Test F1 Background: 0.973697 Test F1 Landslides: 0.315903
57 Train loss: 0.001853 Test loss: 0.04572 Train F1 Background: 0.994518 Train F1 Landslides: 0.460888 Test F1 Background: 0.973483 Test F1 Landslides: 0.373911
58 Train loss: 0.001835 Test loss: 0.03138 Train F1 Background: 0.994577 Train F1 Landslides: 0.470072 Test F1 Background: 0.974978 Test F1 Landslides: 0.285734
59 Train loss: 0.00181 Test loss: 0.033797 Train F1 Background: 0.994661 Train F1 Landslides: 0.48246 Test F1 Background: 0.974588 Test F1 Landslides: 0.277804
Validation Loss:  0.026567 Val F1 Background:  0.979117 Val F1 Landslides:  0.298938

Waiting for W&B process to finish... (success).

Run history:

Test F1 Background	▇▇▇▇▇▇▇▇▇▇██▇▇▄▇█▇▇▅▇▆▇▄▆▄▆▇▇▄▄▆▅▅▄▆▁▆▅▆
Test F1 Landslides	▁▁▁▁▁▁▁▁▂▂▄▂▆▁▅▄▄▄▁▆▃▅▂▇▇▇▇▆▆▄▆▇▇▇▆▆▆██▆
Test loss	▇▄▄▃▃▃▂▂▂▂▂▁▄▁▅▃▂▂▁▅▂▃▂▅▄▆▄▃▃▄▅▄▄▄▆▃█▅▆▄
Train F1 Background	▁▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇▇███████████████████
Train F1 Landslides	▂▁▁▁▁▁▁▁▁▂▂▂▂▃▃▃▄▄▄▃▄▄▅▅▅▅▅▆▅▆▆▇▇▇▇▇▇▇██
Train loss	█▂▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁
Val F1 Background	▁
Val F1 Landslides	▁
Val Loss	▁

Run summary:

Test F1 Background	0.97459
Test F1 Landslides	0.2778
Test loss	0.0338
Train F1 Background	0.99466
Train F1 Landslides	0.48246
Train loss	0.00181
Val F1 Background	0.97912
Val F1 Landslides	0.29894
Val Loss	0.02657

View run radiant-sweep-1 at: https://wandb.ai/patschue/DLBS%20Landslides%20Deeplabv3/runs/tfimx6k9
Synced 5 W&B file(s), 2 media file(s), 0 artifact file(s) and 0 other file(s)

Find logs at: ./wandb/run-20231018_155857-tfimx6k9/logs

wandb: Sweep Agent: Waiting for job.
wandb: Sweep Agent: Exiting.

Test auf realen Daten

model = torchvision.models.segmentation.fcn_resnet50(weights='DEFAULT')
model.classifier[4] = nn.Conv2d(512, 1, kernel_size=(1, 1), stride=(1, 1))
model.to(device);

weights_path = 'weights/model_overfit_fcn2.pth'
model.load_state_dict(torch.load(weights_path));

model.eval()

def prepare_image(image_path):
    input_image = Image.open(image_path).convert("RGB")

    preprocess = transforms.Compose([
        transforms.Resize((128, 128)),
        transforms.ToTensor(),
    ])

    input_tensor = preprocess(input_image)
    return input_tensor.unsqueeze(0)


image_folder = 'data/planet'
image_files = [os.path.join(image_folder, file) for file in os.listdir(image_folder)]

fig, axs = plt.subplots(len(image_files), 3, figsize=(15, len(image_files) * 4))

with torch.no_grad():
    for i, file in enumerate(image_files):
        original_image = Image.open(file)

        input_tensor = prepare_image(file)
        input_tensor = input_tensor.to(device)

        transformed_image = input_tensor.squeeze(0).cpu().numpy().transpose((1, 2, 0))

        output = model(input_tensor)['out']
        prediction_probs = torch.sigmoid(output)
        preds = (prediction_probs > 0.5).float()
        prediction = preds[0].squeeze(0).cpu().numpy()

        # Originalbild anzeigen
        axs[i, 0].imshow(original_image)
        axs[i, 0].set_title(f'Originalbild {i + 1}')
        axs[i, 0].axis('off')

        # Transformiertes Bild anzeigen
        axs[i, 1].imshow(transformed_image)
        axs[i, 1].set_title(f'Transformiertes Bild {i + 1}')
        axs[i, 1].axis('off')

        # Vorhersagemaske anzeigen
        axs[i, 2].imshow(prediction, cmap='gray')
        axs[i, 2].set_title(f'Vorhersage {i + 1}')
        axs[i, 2].axis('off')

plt.tight_layout()
plt.show()